VMware中Linux系统下(Ubuntu)Hadoop的安装和使用步骤

这篇具有很好参考价值的文章主要介绍了VMware中Linux系统下(Ubuntu)Hadoop的安装和使用步骤。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

VMware中Linux系统下(Ubuntu)Hadoop的安装和使用步骤
此篇文章中安装的是:jdk1.8.0_202、hadoop-3.2.4

安装过程中可能会用到的复制粘贴方法:

Windows下复制内容到虚拟机下的linux系统(Ubuntu)

创建Hadoop用户

1、创建Hadoop用户

sudo useradd -m hadoop -s /bin/bash
sudo passwd hadoop
sudo adduser hadoop sudo

ubuntu查看hadoop版本,linux,ubuntu,hadoop
2、切换到hadoop账户

su hadoop

ubuntu查看hadoop版本,linux,ubuntu,hadoop

更新apt和安装Vim编辑器

1、更新apt

sudo apt-get update

ubuntu查看hadoop版本,linux,ubuntu,hadoop
2、安装vim编辑器

sudo apt-get install vim

ubuntu查看hadoop版本,linux,ubuntu,hadoop

安装SSH和配置SSH无密码登录

1、安装SSH服务端

sudo apt-get install openssh-server

ubuntu查看hadoop版本,linux,ubuntu,hadoop
2、登录本机

ssh localhost

ubuntu查看hadoop版本,linux,ubuntu,hadoop
3、退出SSH登录,利用ssh-keygen生成密钥,并将密钥加入授权。

exit                           
cd ~/.ssh/                    
ssh-keygen -t rsa              # 会有提示,都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys  

ubuntu查看hadoop版本,linux,ubuntu,hadoop
ubuntu查看hadoop版本,linux,ubuntu,hadoop

安装java环境

1、wget下载JDK镜像(可以选择其他方式,此方式直接下载后文件保存在当前目录)

wget --no-check-certificate https://repo.huaweicloud.com/java/jdk/8u202-b08/jdk-8u202-linux-x64.tar.gz

ubuntu查看hadoop版本,linux,ubuntu,hadoop
2、创建/user/lib/jvm目录来存放JDK文件

cd /usr/lib
sudo mkdir jvm
cd ~

ubuntu查看hadoop版本,linux,ubuntu,hadoop
3、解压缩文件

sudo tar -zxvf ./jdk-8u202-linux-x64.tar.gz -C /usr/lib/jvm

ubuntu查看hadoop版本,linux,ubuntu,hadoop
4、设置环境变量

vim ~/.bashrc

需要键盘敲击输入一个英文字母i,进入编辑状态以后才能修改内容。
修改后,需要按键盘上的Esc键退出vim的编辑状态。
从键盘输入“:wq”三个英文字母,然后回车,表示保存文件并退出。

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_202
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

ubuntu查看hadoop版本,linux,ubuntu,hadoop
5、保存.bashrc文件,让.bashrc文件生效
查看是否安装成功

source ~/.bashrc
java -version

ubuntu查看hadoop版本,linux,ubuntu,hadoop

安装单机Hadoop

1、wegt下载hadoop镜像

wget --no-check-certificate https://mirrors.cnnic.cn/apache/hadoop/common/hadoop-3.2.4/hadoop-3.2.4.tar.gz

ubuntu查看hadoop版本,linux,ubuntu,hadoop
2、解压缩
3、重命名目录名为hadoop
4、修改目录权限为读权限
5、查看hadoop版本信息

sudo tar -zxvf ./hadoop-3.2.4/hadoop-3.2.4.tar.gz -C /usr/local

cd /usr/local
sudo mv ./hadoop-3.2.4/ ./hadoop
sudo chown -R hadoop ./hadoop

cd /usr/local/hadoop
./bin/hadoop version

ubuntu查看hadoop版本,linux,ubuntu,hadoop
6、在hadoop安装目录下新建input目录,用来存放输入数据
7、将/user/local/hadoop/etc/hadoop目录下的配置文件复制到input目录下

mkdir input
cp ./etc/hadoop/ .xml ./input

ubuntu查看hadoop版本,linux,ubuntu,hadoop
8、运行Grep实例,统计.xml文件中以dfs开头的文件

./bin/hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.2.4.jar grep ./input ./output 'dfs[a-z.]+'

ubuntu查看hadoop版本,linux,ubuntu,hadoop
9、查看输出数据

cat ./output/*

ubuntu查看hadoop版本,linux,ubuntu,hadoop

Hadoop伪分布式安装

1、修改core-site.xml

vim ./etc/hadoop/core-site.xml

ubuntu查看hadoop版本,linux,ubuntu,hadoop

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

ubuntu查看hadoop版本,linux,ubuntu,hadoop
2、修改hdfs-site.xml文件

vim ./etc/hadoop/hdfs-site.xml

ubuntu查看hadoop版本,linux,ubuntu,hadoop

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/data</value>
    </property>
</configuration>

ubuntu查看hadoop版本,linux,ubuntu,hadoop
3、文件系统格式化

cd /usr/local/hadoop
./bin/hdfs namenode -format

ubuntu查看hadoop版本,linux,ubuntu,hadoop
4、启动HDFS

cd /usr/local/hadoop
./sbin/start-dfs.sh

ubuntu查看hadoop版本,linux,ubuntu,hadoop
5、如果如上图一样启动失败,通过添加hadoop环境变量解决

vim ~/.bashrc

ubuntu查看hadoop版本,linux,ubuntu,hadoop

export HADOOP_HOME=/usr/local/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native

ubuntu查看hadoop版本,linux,ubuntu,hadoop

source ~/.bashrc
./sbin/start-dfs.sh
jps

ubuntu查看hadoop版本,linux,ubuntu,hadoop
6、在Ubuntu的浏览器中访问 http://localhost:9870
ubuntu查看hadoop版本,linux,ubuntu,hadoop文章来源地址https://www.toymoban.com/news/detail-844987.html

到了这里,关于VMware中Linux系统下(Ubuntu)Hadoop的安装和使用步骤的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Linux(ubuntu)上安装vmware workstation虚拟机

    Linux(ubuntu)上安装vmware workstation虚拟机 首先下载vmware workstation 官网下载地址:https://www.vmware.com/products/workstation-pro/workstation-pro-evaluation.html 下滑至页面下方下载: 或者点击此处下载 下载完成后在文件夹中打开:   安装构建依赖项,打开您的系统终端并运行以下命令: 找到

    2024年02月12日
    浏览(38)
  • VMware安装及其Ubuntu在虚拟中的安装与卸载(含Ubuntu系统配置)

    1.去vmware官网下载; 2.或者直接在搜索引擎搜索,网上有很多分享的虚拟机安装包。 1.下载文件:安装之后是这样的界面。 2.如果你点击下一步出现了这个页面的话,那就证明你电脑里面已经有VMware了,可以直接使用,如果想重新安装,直接删除就好,再重新打开安装程序继

    2024年02月08日
    浏览(52)
  • VMware虚拟机部署Linux Ubuntu系统的方法

      本文介绍基于 VMware Workstation Pro 虚拟机软件,配置 Linux Ubuntu 操作系统环境的方法。   首先,我们需要进行 VMware Workstation Pro 虚拟机软件的下载与安装。需要注意的是, VMware Workstation Pro 软件是一个收费软件,而互联网中有很多可以下载后 直接免费激活、使用 这一软

    2024年01月24日
    浏览(41)
  • hadoop的安装教程( Ubuntu 系统)

    目录 一、创建hadoop用户 二、更新apt  三、安装SSH、配置SSH无密码登陆 四、安装Java环境  五、安装 Hadoop 六、检验jdk、hadoop的安装成果 七、Hadoop单机配置 八、 Hadoop完全分布式配置 一、 创建hadoop用户 如果安装 Ubuntu 的时候 设置用户名时 用 的不是  \\\"hadoop\\\" 用户,那么需要增

    2024年02月03日
    浏览(36)
  • VMware16、Linux-Ubuntu下载和安装(保姆级教程)

    目录 VMware16、Linux-Ubuntu下载及安装 一、VMware16虚拟机下载 二、VMware16虚拟机安装 三、Linux-Ubuntu下载 四、Linux-Ubuntu安装 1、进入 VMware 16下载官网,选择下载  Workstation 16 Pro for Windows(Windows)。 下载 VMware Workstation Pro | CN 1、双击安装包,进入安装界面,点击下一步 2、接受许可

    2024年02月04日
    浏览(42)
  • VMware Workstation17安装教程及安装Ubuntu22.04系统

    编程如画,我是panda! VMware Workstation Pro 是一款高级虚拟化软件,使用户能够在单一计算机上同时运行多个操作系统,如Windows、Linux和macOS,而无需重新启动。具备虚拟机快照、高级网络配置、克隆和复制功能,以及多屏幕显示支持,VMware Workstation Pro为开发者和系统管理员提

    2024年02月02日
    浏览(46)
  • 使用VMware安装Ubuntu虚拟机和VMware Tools

    【前言】 本教程将演示通过 VMware 安装 Ubuntu ,请提前下载好以下文件哦: ① VMware 软件 ② Ubuntu 的 光盘镜像文件(.iso) 【下载地址】 VMware 官网链接 https://www.vmware.com/ 本教程使用版本:VMware Workstation 16 Pro Ubuntu 官网链接 https://www.ubuntu.org.cn/global 下载链接:https://releases.u

    2024年02月05日
    浏览(49)
  • VMware虚拟机 Linux系统 Ubuntu 16.04 硬盘/磁盘扩容

    虚拟机 – VMware Workstation Pro Linux系统 – Ubuntu 16.04 LTS 硬盘容量从40G 扩容到 100G 查看硬盘大小及使用情况 终端: df -h 没有扩容前: 成功扩容后: 主要流程 扩展硬盘大小到100G 将未分配的60G分配到主分区 更新UUID值 超详细图文详解扩容步骤 查看磁盘的情况后,关闭客户机,可

    2024年01月21日
    浏览(66)
  • 虚拟机VMware Workstation Pro安装配置使用服务器系统ubuntu-22.04.3-live-server-amd64.iso

    虚拟机里安装ubuntu-23.04-beta-desktop-amd64开启SSH(换源和备份)配置中文以及中文输入法等 获取Ubuntu服务器版 选择 Custom(advanced) : 选择 Workstation 17.x : 选择“ I will install the operating system later. ” 选择“ Linux ”: 命名 虚拟机 和 位置 : 处理器 配置: 虚拟机内存 配置: 网络类型

    2024年02月01日
    浏览(72)
  • VMware虚拟机安装Ubuntu kylin 麒麟系统教程 超详细

    由于之前用虚拟机安装过Ubuntu、kylin、centos8,后来过了段时间有些忘记了,网上也有许多安装教程,但不怎么详细,于是今天把安装过程的详细步骤整理并记录下来,方便大家参考,避免走弯路~ 下面是步骤:     下面是为虚拟机自定义一个自己喜欢的名字及一些配置(可以

    2024年02月16日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包