华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1

这篇具有很好参考价值的文章主要介绍了华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

#【中秋征文】程序人生,中秋共享#

前言

这是Maynor创作的华为云云耀云服务器L实例测评的第二篇,上篇传送门:

华为云云耀云服务器L实例评测|单节点环境下部署ClickHouse21.1.9.41数据库

云耀云服务器L实例简介

云耀云服务器L实例是新一代的轻量应用云服务器,专门为中小企业和开发者打造,提供开箱即用的便利性。云耀云服务器L实例提供丰富且经过严格挑选的应用镜像,可以一键部署应用,极大地简化了客户在云端构建电商网站、Web应用、小程序、学习环境以及各类开发测试等任务的过程。

Hadoop简介

Hadoop是一个开源的分布式计算框架,能够处理大规模数据的存储和处理。它基于Google的MapReduce算法和Google File System(GFS)的思想,可以在廉价的硬件上进行高效的分布式计算。Hadoop有两个核心组件,一个是分布式文件系统Hadoop Distributed File System(HDFS),另一个是分布式计算框架MapReduce。HDFS将大规模数据分散存储在多个节点上,而MapReduce则将计算分散到多个节点上进行并行计算,最终将结果汇总输出。Hadoop的优点是具有高可靠性、可扩展性和高效性,适合处理大规模数据。Hadoop被广泛应用于数据挖掘、机器学习、人工智能、搜索引擎等领域。

一、配置环境

购买云耀云服务器L实例

在云耀云服务器L实例详情页,点击购买。

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

  • 检查配置,确认购买。

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

查看云耀云服务器L实例状态

查看购买的云耀云服务器L实例状态,处在正常运行中。

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

重置密码

重置密码,点击重置密码选项,需要进行身份验证,选择手机验证后,即可重置密码成功。

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

查看弹性公网IP地址

  • 复制弹性公网IP地址,远程连接服务器时使用。

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

FinalShell连接服务器

在FinalShell工具中,填写服务器弹性公网IP地址、账号密码信息,ssh连接远程服务器。

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

二、搭建Hadoop单机版本

详细安装步骤如下:

我们先开始配置java环境

首先下载java的jdk

wget https://download.java.net/openjdk/jdk8u41/ri/openjdk-8u41-b04-linux-x64-14_jan_2020.tar.gz

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

然后解压

tar -zxvf openjdk-8u41-b04-linux-x64-14_jan_2020.tar.gz

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

移动位置并且配置java路径

mv java-se-8u41-ri/ /usr/java8
echo 'export JAVA_HOME=/usr/java8' >> /etc/profile
echo 'export PATH=$PATH:$JAVA_HOME/bin' >> /etc/profile
source /etc/profile

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

检查是否安装成功

java -version

这是理想情况,若安装成功会出现如下结果

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

hadoop2.x
wget --no-check-certificate https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-2.10.1/hadoop-2.10.1.tar.gz

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

tar -zxvf hadoop-2.10.1.tar.gz -C /opt/
mv /opt/hadoop-2.10.1 /opt/hadoop

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

配置地址

echo 'export HADOOP_HOME=/opt/hadoop/' >> /etc/profile
echo 'export PATH=$PATH:$HADOOP_HOME/bin' >> /etc/profile
echo 'export PATH=$PATH:$HADOOP_HOME/sbin' >> /etc/profile
source /etc/profile

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

配置yarn和hadoop

echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/yarn-env.sh
echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/hadoop-env.sh

查看Hadoop 安装情况

hadoop version

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

若出现上图情况,则说明安装成功

接下来需要利用vim来操作core-site 和 hdfs-site
vim /opt/hadoop/etc/hadoop/core-site.xml

进入vim环境

按下i(insert)修改

光标移动至configuration之间,复制如下的信息

<property>
        <name>hadoop.tmp.dir</name>
        <value>file:/opt/hadoop/tmp</value>
        <description>location to store temporary files</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

然后按下esc,停止修改,然后打":wq"(实际无“”)退出vim修改

同理操作hdfs-site

vim /opt/hadoop/etc/hadoop/hdfs-site.xml
<property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/opt/hadoop/tmp/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/opt/hadoop/tmp/dfs/data</value>
    </property>

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

配置master和slave连接,运行如下指令,并且一直回车,直至出现如下图

ssh-keygen -t rsa 

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

启动Hadoop

hadoop namenode -format
start-dfs.sh
start-yarn.sh

输入密码

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

踩坑:
ERROR: but there is no YARN_NODEMANAGER_USER defined. Aborting operation

这里踩了一个小坑,

解决方案:

https://blog.csdn.net/ystyaoshengting/article/details/103026872

查看是否配置成功

jps

成功图

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

三、验证成果

起初HDFS没有文件所以无任何显示

华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

随意上传个文件到HDFS系统中,可以看到系统上有文件
华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划
打开hdfs的web 管理页面 网页ip+50070
华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1,# Hadoop,# 华为云,服务器,分布式,运维,原力计划

正常显示!

总结

​ 重点介绍了在云耀云服务器L实例上搭建Hadoop单机版本的步骤。首先购买服务器实例并配置环境,然后安装Hadoop2.x版本并编辑配置文件。在配置过程中可能会遇到问题,需要注意解决。最后验证搭建的Hadoop单机版本是否成功。文章来源地址https://www.toymoban.com/news/detail-727739.html

到了这里,关于华为云云耀云服务器L实例评测|伪分布式环境下部署hadoop2.10.1的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包