hadoop的安装教程( Ubuntu 系统)

这篇具有很好参考价值的文章主要介绍了hadoop的安装教程( Ubuntu 系统)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

目录

一、创建hadoop用户

二、更新apt 

三、安装SSH、配置SSH无密码登陆

四、安装Java环境

 五、安装 Hadoop

六、检验jdk、hadoop的安装成果

七、Hadoop单机配置

八、 Hadoop完全分布式配置


一、创建hadoop用户

如果安装 Ubuntu 的时候设置用户名时的不是 "hadoop" 用户,那么需要增加一个名为 hadoop 的用户
sudo useradd -m hadoop -s /bin/bash

设置密码,按提示输入两次密码

sudo passwd hadoop

为 hadoop 用户增加管理员权限方便操作

sudo adduser hadoop sudo

创建完hadoop用户后,注销,选择hadoop用户登入,如下所示:

ubuntu安装hadoop,hadoop,ubuntu,大数据

二、更新apt 

使用 apt 安装软件,避免没更新导致有一些软件安装不了
sudo apt-get update

ubuntu安装hadoop,hadoop,ubuntu,大数据

后面会需要更改一些配置文件,安装 vim方便编辑文件,个人可以根据自身需求进行安装

sudo apt-get install vim

 ubuntu安装hadoop,hadoop,ubuntu,大数据

三、安装SSH、配置SSH无密码登陆

1.Ubuntu默认已安装了SSH client,此外还需要安装SSH server:

sudo apt-get install openssh-server

 2.ssh免密登陆

ssh localhost      #需要密码才能登录
cd ~/.ssh/ 
ssh-keygen -t rsa  #生成密钥
cat ./id_rsa.pub >> ./authorized_keys
ssh localhost      #检验免密登录

ubuntu安装hadoop,hadoop,ubuntu,大数据

四、安装Java环境

建议直接在linux上进入官网下载jdk和hadoop,当然也可以在windows上下载,复制到虚拟机即可 

cd /usr/lib

sudo mkdir jvm      #创建/usr/lib/jvm目录用来存放JDK文件

sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm        #把jdk文件解压到/usr/lib/jvm目录下红色部分为你自己虚拟机下jdk存放的位置路径

cd  ./jvm

sudo mv jdk-8u162 jdk   #重命名,红色部分根据你安装的jdk 版本

cd ~ 

vim ~/.bashrc  #配置环境变量

将以下的配置内容复制到该环境变量的配置文件里(注意红色部分):

export HADOOP_HOME=/usr/local/hadoop
export JAVA_HOME=/usr/lib/jvm/jdk
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH:${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin
source  ~/.bashrc

 五、安装 Hadoop

这里采用的是hadoop-3.1.3 

cd /usr/local/

sudo tar -zxvf ~/下载/hadoop-3.1.3.tar.gz  -C /usr/local   #把hadoop-3.1.3文件解压到/usr/local目录下红色部分为你自己虚拟机下hadoop-3.1.3存放的位置

sudo mv hadoop-3.1.3 hadoop       #重命名,红色部分根据你安装的hadoop 版本

sudo chown -R hadoop ./hadoop    # 修改文件权限

六、检验jdk、hadoop的安装成果

cd   /usr/lib/jvm
Java  -version

ubuntu安装hadoop,hadoop,ubuntu,大数据

cd   /usr/local
hadoop version

ubuntu安装hadoop,hadoop,ubuntu,大数据

七、Hadoop单机配置

cd /usr/local/hadoop

mkdir ./input

cp ./etc/hadoop/*.xml ./input   # 将配置文件作为输入文件

./bin/hadoop

jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-*.jar grep ./input ./output 'dfs[a-z.]+'

ubuntu安装hadoop,hadoop,ubuntu,大数据

(出现这个说明成功了)

cat ./output/*   # 查看运行结果

 Hadoop 默认不会覆盖结果文件,因此再次运行上面实例会提示出错,需要先将 ./output 删除

rm -r ./output

八、 Hadoop伪分布式配置

Hadoop 的配置文件位于 /usr/local/hadoop/etc/hadoop/ 中,完全分布式需要修改4个配置文件 core-site.xml hdfs-site.xmlyarn-site.xml和mapred-site.xml ;伪分布只需要修改2个配置文件core-site.xml和hdfs-site.xml。(配置完后需要格式化及启动集群
cd /usr/local/hadoop/etc/hadoop
  1. 配置core-site.xml文件
sudo vim core-site.xml

打开文件后,添加以下配置:

<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/local/hadoop/tmp</value>
<description>Abase for other temporary directories.</description>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>

2.配置hdfs-site.xml文件

sudo vim hdfs-site.xml

打开文件后,添加以下配置:

<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
</configuration>

 3.配置yarn-site.xml文件

sudo vim yarn-site.xml

 打开文件后,添加以下配置:

<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</onfiguration>

4.配置mapred-site.xml文件

sudo vim mapred-site.xml

打开文件后,添加以下配置:

<cnfiguration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

配置完4个文件后,执行 NameNode 的格式化

cd /usr/local/hadoop
./bin/hdfs namenode -format

ubuntu安装hadoop,hadoop,ubuntu,大数据

启动集群:

cd /usr/local/hadoop
./sbin/start-all.sh

ubuntu安装hadoop,hadoop,ubuntu,大数据

启动完成后,可以通过命令 jps 来判断是否成功启动

ubuntu安装hadoop,hadoop,ubuntu,大数据文章来源地址https://www.toymoban.com/news/detail-770986.html

到了这里,关于hadoop的安装教程( Ubuntu 系统)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Hadoop3.1.3安装教程_单机/伪分布式配置_Hadoop3.1.3/Ubuntu18.04(16.04)

    目录 前言: 一、VMware Workstation 二、Ubuntu系统安装 新建虚拟机 三、Ubuntu系统的配置 四、更新apt 五、安装SSH、配置SSH无密码登陆  六、安装Java环境 七、安装 Hadoop3.1.3 八、Hadoop单机配置(非分布式) 九、Hadoop伪分布式配置 前言:         本篇教程由作者本人进行修改,原教

    2024年02月03日
    浏览(38)
  • 【Ubuntu】Ubuntu快速安装教程(window系统上)

    目录 一.文章简介 二.具体安装步骤 1.总述 2.安装WSL 3.下载Ubuntu 4.配置Ubuntu 5.安装第一个软件包 6.使用 Windows 终端预览自定义终端 三.完成安装 本文主要简单介绍如何在window系统上安装软件Ubuntu以及如何在该软件上编写python程序。无需要安装虚拟机。一共分为六步: 依照官网

    2024年02月07日
    浏览(38)
  • 【Ubuntu系统安装gcc简易教程】

    需要在非root用户下安装和使用的gcc 12.2.0 版本。 以下是基本操作。 此外,http://ftp.gnu.org/gnu/gcc 里面有所有的gcc版本供下载。 这个神奇的脚本文件 download_prerequisites 会帮我们下载、配置、安装依赖库,当然可以查看该文件中的相关依赖,自己通过源码的方式下载编译安装。

    2024年02月09日
    浏览(46)
  • 45.ubuntu Linux系统安装教程

    目录 一、安装Vmware 二、Linux系统的安装 今天开始了新的学习,Linux,下面是今天学习的内容。 这里是在 Vmware 虚拟机中安装 linux 系统,所以需要先安装 vmware 软件,然 后再安装 Linux 系统。 所需安装文件: Vmware 下载地址: https://www.vmware.com/cn/products/workstation-pro/workstation-pro-

    2024年02月14日
    浏览(31)
  • Ubuntu系统上安装Docker教程

    Docker 是一种非常流行的容器化技术,可以帮助开发人员将应用程序和服务打包到容器中,实现跨平台的部署和运行。博主作为AI的科研人员,平时用的Linux发行版是Ubuntu,所以本文将介绍如何在 Ubuntu 系统上安装 Docker,并配置 Docker 环境,以便在容器中运行应用程序和服务。无

    2024年02月16日
    浏览(32)
  • windows、ubuntu双系统安装教程

    第一步:在电脑桌面鼠标右键 我的电脑 点击 管理 选择 磁盘管理 ;找到ubuntu安装的盘符(建议与C盘分开,我选的是D盘),右键, 压缩卷 ,压缩出合适的容量(我设置的为120G)来安装ubuntu,压缩后如图所示,出现黑色 未分配 字样即可; 第二步:找一个容量不低于8G的U盘(能

    2024年02月06日
    浏览(31)
  • (详细教程)笔记本电脑安装Ubuntu系统

    老的小米笔记本淘汰了,装一下linux系统玩一下。 使用工具如下: 一台小米笔记本pro15.6 一个惠普32G U盘 一个台式机用于下载镜像等资源 cn.ubuntu.com/download/de… 这里我下载的是 22.04.3 LTS 这里使用烧录工具是UltralSO 下载地址如下: www.cn.ultraiso.net/ 下载免费版即可: 此外推荐下

    2024年02月05日
    浏览(46)
  • Esxi8.0安装Ubuntu系统教程

    本篇教程主要教大家怎么在ESXi8.0虚拟机上安装Ubuntu系统,首先安装Ubuntu需要准备一个ISO系统镜像文件,我们可以去Ubuntu官网下载。 Ubuntu 官网:https://ubuntu.com/download/desktop 点击【Download】即可下载Ubuntu的ISO系统镜像文件 1.首先点击【存储】,再点击【数据存储浏览器】 2. 点击【

    2024年01月16日
    浏览(44)
  • Linux系统 Ubuntu18.04安装的详细教程(提供18.04ubuntu镜像)

    镜像文件下载: 链接:https://pan.baidu.com/s/12bEdRBwO1YbLt23QKnrSrA 提取码:h7as 关于全名、用户名区别可先看第四部分 处理器和内核数量,根据需要配置就行。我是8核16线程,配置2,2。小白学习的话,配置低一点没关系。如果你只是为了学一些基础命令,配置成1,1应该也没问题

    2024年02月01日
    浏览(67)
  • Ubuntu Linux 系统安装教程 (手把手演示)

    很久没有更新博客了,另外最近电脑重新安装了系统,很多软件得重新下载,于是乎心血来潮,写一篇关于 Ubantu Linux 系统安装的教程,做个记录,也重新温习一遍系统的安装过程,话不多说,开始正题: 相信很多没接触过的小伙伴都不太清楚且了解所谓的 Ubantu、Linux、Vmw

    2024年02月03日
    浏览(42)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包