虚拟机上搭建Hadoop运行环境

这篇具有很好参考价值的文章主要介绍了虚拟机上搭建Hadoop运行环境。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


Hadoop环境搭建

1.安装VMware

下载并安装VMware,这里不做赘述,具体步骤可自行百度。

2.centos软硬件安装

本篇文章使用的VMware15版本演示,其他版本步骤同理。

2.1硬件部分

虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据
注意:这里不能超过自己电脑内核总数

打开任务管理器(快捷键 ctrl + alt +del),查看电脑内核总数:
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
查看到我电脑是有8个CPU内核

假如我们未来要克隆三台虚拟机,再加上本机,一共四台计算机

所以我们平分一下,一台两个内核

虚拟机安装hadoop步骤,大数据,hadoop,大数据
根据自己的需求和电脑配置情况设置内存大小,我这里每台配置3g内存.
如果电脑的内存大小不够的话可以设置为2G或者1G
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
最大磁盘大小在条件允许的情况下建议是设置40G以上, 20G可能后续还需扩容,这里我们设置的50G.
注:50G 是指最大占用50G,如果你没有用到50G,别人也可以使用
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据

2.2软件部分

确保虚拟化技术已经打开,否则会安装失败.
虚拟机安装hadoop步骤,大数据,hadoop,大数据
在虚拟机设置里面选择系统的镜像文件,本文使用的是提前下载好的centos7
虚拟机安装hadoop步骤,大数据,hadoop,大数据
网络适配器可选择NAT模式或者自定义中选择VMnet8
虚拟机安装hadoop步骤,大数据,hadoop,大数据
设置完成之后启动虚拟机
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
启动成功之后来到欢迎界面
选择语言,我这里选择简体中文
虚拟机安装hadoop步骤,大数据,hadoop,大数据
设置日期和时间,将日期和时间设置为当前时间,设置完成后点击完成即可
虚拟机安装hadoop步骤,大数据,hadoop,大数据
软件选择:
虚拟机安装hadoop步骤,大数据,hadoop,大数据
最小安装的意思是只提供命令行界面,不提供图形化界面
真正的生产环境中一般都是使用最小安装
学习阶段建议安装桌面版
虚拟机安装hadoop步骤,大数据,hadoop,大数据
安装位置:
虚拟机安装hadoop步骤,大数据,hadoop,大数据
可以进去自定义分区,也可以选择自动分区。为了方便可以选择自动分区。
虚拟机安装hadoop步骤,大数据,hadoop,大数据
手动分区的话,选择“我要配置分区”,点击完成,然后弹出配置界面,进行配置即可,这里不作赘述。

网络和主机:
虚拟机安装hadoop步骤,大数据,hadoop,大数据
先打开网络连接,设置主机名
后面可以在系统中对主机名,IP地址等信息进行更改

安全策略:

虚拟机安装hadoop步骤,大数据,hadoop,大数据
配置完成之后点击开始安装即可
虚拟机安装hadoop步骤,大数据,hadoop,大数据
点击安装之后进行安装,安装需要一段时间,这时候可以设置root的密码
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
设置完成之后等待安装完成即可
安装完成之后点击重启
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
创建一个普通账号
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
配置完成
虚拟机安装hadoop步骤,大数据,hadoop,大数据

3.主机IP和名称配置

3.1 IP配置

编辑–虚拟网络编辑器
IP设置:
这里的子网IP根据规则自己设置即可,我这里设置为192.168.101.0
另外需要选中nat模式将主机虚拟适配器连接到此网络
虚拟机安装hadoop步骤,大数据,hadoop,大数据
设置网关:
设置网关IP,网关IP要和子网IP在同一网段,我这里设置为192.168.101.2
虚拟机安装hadoop步骤,大数据,hadoop,大数据

到这里相当于已经把vm的IP地址配置完了

然后我们配置自己电脑上面的IP地址
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据
选择使用下面的IP地址
对照虚拟机中的配置进行填写即可
虚拟机安装hadoop步骤,大数据,hadoop,大数据

3.2主机名配置

vim /etc/hostname

将主机名设置为hadoop100
虚拟机安装hadoop步骤,大数据,hadoop,大数据
保存
虚拟机安装hadoop步骤,大数据,hadoop,大数据

配置主机名和IP地址映射

vim /etc/hosts

虚拟机安装hadoop步骤,大数据,hadoop,大数据
配置映射的作用:
比如在上面这台虚拟机上面配置了上述主机名称和IP的映射,那么我要在这台主机访问另外几个IP,只需要访问他们的主机名即可。
比如 ping 192.168.101.101和ping hadoop101其实是一样的

4.测试连接

输入主机IP,用户名和密码,点击确定。
这里的认证用户可以是root用户也可以是自己设置的普通用户
虚拟机安装hadoop步骤,大数据,hadoop,大数据
虚拟机安装hadoop步骤,大数据,hadoop,大数据

5.克隆虚拟机

5.1克隆虚拟机

将这台配置好的虚拟机克隆
关机,右键—>管理—>克隆
虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据

虚拟机安装hadoop步骤,大数据,hadoop,大数据
设置名称和地址,点击完成

虚拟机安装hadoop步骤,大数据,hadoop,大数据

5.2 修改主机IP和主机名

1.进入Hadoop102

vim /etc/sysconfig/network-scripts/ifcfg-ens33

2.修改IP地址
先切换到root用户再使用上述命令,否则无法修改文件
虚拟机安装hadoop步骤,大数据,hadoop,大数据
修改IP地址为192.168.101.102即可,上图是修改后的结果。
另外确保bootproto是static,而不是DHCP
这样能保证IP地址是固定的,而不是动态分配的
修改完成之后保存

3.修改主机名

vim /etc/hostname

改成hadoop102

4.查看映射

vim /etc/hosts

虚拟机安装hadoop步骤,大数据,hadoop,大数据
5.重启

reboot

测试
虚拟机安装hadoop步骤,大数据,hadoop,大数据

按照上述步骤还可继续克隆。

6.安装jdk

1.下载jdk并上传到虚拟机上
虚拟机安装hadoop步骤,大数据,hadoop,大数据

2.安装jdk

tar -zxvf jdk文件名称 -C 执行安装的目录
tar -zxvf jdk-8u351-linux-x64.tar.gz -C /opt/module/

3.安装完成来到/opt/module/查看是否存在

4.然后进入安装的jdk的目录

虚拟机安装hadoop步骤,大数据,hadoop,大数据
5.配置jdk的环境变量

cd /etc/ profile.d

虚拟机安装hadoop步骤,大数据,hadoop,大数据
这里面就有后缀是sh的文件,系统启动的时候会加载这些文件

自己创建一个文件my_env.sh,在这个文件里面定义环境变量

sudo vim my_env.sh

在里面写入配置环境变量并保存

虚拟机安装hadoop步骤,大数据,hadoop,大数据
生效环境变量

source /etc/profile

虚拟机安装hadoop步骤,大数据,hadoop,大数据
出现上面内容就可以了

7.安装Hadoop

1.来到software目录下(上传jdk到虚拟机上的时候,把Hadoop文件也一起上传了)
虚拟机安装hadoop步骤,大数据,hadoop,大数据
2.解压缩

tar -zxvf Hadoop文件名称 -C 执行安装的目录
tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/

3.查看module目录
虚拟机安装hadoop步骤,大数据,hadoop,大数据
4.配置环境变量

sudo vim /etc/profile.d/my_env.sh

虚拟机安装hadoop步骤,大数据,hadoop,大数据
5.生效环境变量

source /etc/profile

虚拟机安装hadoop步骤,大数据,hadoop,大数据
6.测试是否成功
虚拟机安装hadoop步骤,大数据,hadoop,大数据

8.完成防火墙、SElinux、时间同步等系统设置

8.1关闭防火墙

集群化软件之间需要通过端口互相通讯,为了避免出现网络不通的问题,我们可以简单的在集群内部关闭防火墙。

虚拟机安装hadoop步骤,大数据,hadoop,大数据

8.2关闭SELinux

Linux有一个安全模块:SELinux,用以限制用户和程序的相关权限,来确保系统的安全稳定。
在当前,我们只需要关闭SELinux功能,避免导致后面的软件运行出现问题即可
虚拟机安装hadoop步骤,大数据,hadoop,大数据

8.3修改时区并配置自动时间同步

以下操作在三台Linux均执行文章来源地址https://www.toymoban.com/news/detail-765168.html

yum install -y ntp
2. 更新时区
rm -f /etc/localtime;sudo ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
3. 同步时间
ntpdate -u ntp.aliyun.com
4. 开启ntp服务并设置开机自启
systemctl start ntpd
systemctl enable ntpd

到了这里,关于虚拟机上搭建Hadoop运行环境的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Hadoop——Hive运行环境搭建

    Windows:10         JDK:1.8         Apache Hadoop:2.7.0 Apache Hive:2.1.1         Apache Hive src:1.2.2         MySQL:5.7 1、下载 Hadoop搭建 Apache Hive 2.1.1:https://archive.apache.org/dist/hive/hive-2.1.1/apache-hive-2.1.1-bin.tar.gz Apache Hive 1.2.2 src:https://archive.apache.org/dist/hive/hive-1.2.2/apache-hive-1.

    2024年02月16日
    浏览(28)
  • 【大数据】Hadoop运行环境搭建

    使用VMware虚拟机搭建基于CentOS7的Hadoop环境: cpu核数(需要搭建3台Hadoop组成集群,加上Windows本机,所以可以分配的数量为本机的cpu核数除以4) 内存至少4G 硬盘最少50G 创建虚拟机: 新建虚拟机,选择自定义(高级)—硬件兼容性默认—选择稍后安装操作系统 —客户机操作系统

    2024年02月08日
    浏览(30)
  • Hadoop 运行环境搭建(开发重点)

    将 hadoop 的安装包和 jdk 的安装包,上传到 hadoop102 的 /opt/software 目录下 输入命令: tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/ 将jdk压缩包解压到 /opt 目录下 输入命令: mv jdk1.8.0_212/ jdk1.8 包的名字太长了我们给他改成 jdk1.8 然后接下来,配置jdk的环境变量 输入命令: vim /etc/profile 添

    2024年02月07日
    浏览(33)
  • 【大数据】hadoop运行环境搭建(搭建如此简单)

    首先准备好工具。下载好最新的VMware Workstation,CentorOS 7运行Linux,建议Linux桌面标准版,且创建好一个用户 安装模板虚拟机。IP地址192.168.150.100(自定义)、主机名称hadoop100、内存4G、硬盘50G,嘎嘎重要,一步一步来完成 vim /etc/sysconfig/network-scripts/ifcfg-ens33 进入配置文件(想不

    2024年02月08日
    浏览(26)
  • 【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils )

    Hadoop 发布版本在 https://hadoop.apache.org/releases.html 页面可下载 ; 当前最新版本是 3.3.6 , 点击 Binary download 下的 binary (checksum signature) 链接 , 进入到 Hadoop 3.3.6 下载页面 : 下载地址为 : https://dlcdn.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz 官方下载速度很慢 ; 这里提供一个 Hadoop 版

    2024年02月13日
    浏览(48)
  • hadoop伪分布式环境搭建,完整的详细步骤

    1、VMware14 2、一台ubtuntu 18 64位 3、主机名位master 4、ip 地址:192.168.136.31 5、本次实验需要的安装包 1、 查看id 地址 2、 关闭防火墙 命令来关闭防火墙 命令查看当前防火墙状态 3、 修改主机名、 添加主机映射 修改虚拟机hosts文件,将ip地址添加进来 使用 :wq 保存 测试是否修改

    2024年02月08日
    浏览(36)
  • 大数据技术之Hadoop-运行环境搭建

     1. 设置VMware 网段   在 VMware 的虚拟网络编辑器中,将 VMnet8 虚拟网卡的: 网段设置为: 192.168.88.0 网关设置为:192.168.88.2  2. 下载CentOS操作系统 首先,我们需要下载操作系统的安装文件,本次使用 CentOS7.6 版本进行学习: 首先,我们需要下载操作系统的安装文件,本次使用

    2024年03月10日
    浏览(49)
  • 搭建hadoop集群,从安装虚拟机开始直到hadoop成功搭建

    搭建Hadoop集群   一、实验目的与要求 学习和掌握Hadoop的相关应用,首先必须得学会搭建Hadoop集群。本次实验将针对Hadoop集群的搭建内容进行演练。学会虚拟机的安装和克隆,Linux系统的网络配置和SSH配置,Hadoop集群的搭建和配置,Hadoop集群测试,熟悉Hadoop集群基本的操作。

    2023年04月08日
    浏览(33)
  • hadoop win11安装hadoop环境 winutils.exe获取,windows安装大数据运行环境 winutils文件获取,winutils文件 hadoop(十四)

    注:有些win环境的大数据dll文件,winutils.exe需要积分下载,我没有积分,提供一份github链接 每个版本基本都有,挺全。 1. github地址: GitHub - cdarlint/winutils: winutils.exe hadoop.dll and hdfs.dll binaries for hadoop windows 2. 从上述链接,下载工程,复制出来自己的版本,我hadoop安装的3.3.4,

    2024年02月04日
    浏览(36)
  • 头歌Hadoop 开发环境搭建及HDFS初体验(第2关:配置开发环境 - Hadoop安装与伪分布式集群搭建)

    注: 1 头歌《Hadoop 开发环境搭建及HDFS初体验》三关在一个实验环境下,需要三关从前往后按顺序评测,跳关或者实验环境结束后重新打开 不能单独评测通过 2 复制粘贴请用右键粘贴,CTRL+C/V不管用哦~ 第1关:配置开发环境 - JavaJDK的配置: 解压: 配置环境变量: 细节: vi

    2024年02月08日
    浏览(118)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包