hadoop_虚拟机linux环境部署全教程

这篇具有很好参考价值的文章主要介绍了hadoop_虚拟机linux环境部署全教程。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

hadoop_虚拟机linux环境部署:

一、 网卡设置
  1. 使用VMnet8虚拟网卡
  2. 网段设置为:192.168.88.0
  3. 网关设置为:192.168.88.2
二、安装Linux操作系统

下载地址:https://vault.centos.org/7.6.1810/isos/x86_64/

三、Linux系统配置
  • 修改主机名:hostnamectl set-hostname node1

  • 修改IP地址:Vim /etc/sysconfig/network-scripts/ifcfg-ens33

    IPADDR = “192.168.88.101”

  • 设置子网掩码:NETMASK=“255.255.255.0”

  • 修改:ONBOOT=“yes”

  • 修改:BOOTPROTO=“static”

  • 设置网关: GATEWAY=“192.168.88.2”

  • 设置DNS1服务器:DNS1=“192.168.88.2”

  • 重启网卡:

    systemctl stop network 与 systemctl start network

    或者 systemctl restart network

											# 补充知识点
# 1、切换root权限:su - 或者 su root
# 2、查询IP地址:ifconfig
四、配置主机名的映射
  • Windows环境配置

    文件地址:C:/Windows/System32/drivers/etc/hosts

    添加映射:

    192.168.88.101 node1

    192.168.88.102 node2

    192.168.88.103 node3

  • Linux环境配置

    文件地址:/etc/hosts

    添加映射:

    192.168.88.101 node1

    192.168.88.102 node2

    192.168.88.103 node3

五、配置SSH免密登录
  1. 在每一台机器都执行:“ssh-keygen -t rsa -b 4096”, 一路回车到底即可

  2. 在每一台机器都执行:

    ssh-copy-id node1
    ssh-copy-id node2
    ssh-copy-id node3
    
  3. 执行完毕后,node1,node2,node3之间将完成root用户之间的免密互通,跳转服务器" ssh node1"。

六、创建hadoop用户并配置免密登录

后续大数据的软件,将不会以root用户启动(确保安全,养成良好习惯)

将在linux里面创建一个单独的用户hadoop,并为三台服务器同样配置hadoop用户的免密互通。

1、在每一台机器执行:useradd hadoop, 创建hadoop用户

2、在每一台机器执行:passwd hadoop, 设置hadoop用户密码123456

3、在每一台机器均切换到hadoop用户:su hadoop,并执行 ssh-keygen -t rsa -b 4096, 创建ssh密钥

4、在每一台机器均执行:

ssh-copy-id node1
ssh-copy-id node2
ssh-copy-id node3
七、JDK环境部署
  1. 下载JDK软件:网址:https://www.oracle.com/java/technologies/downloads

  2. 创建文件夹,用来部署JDK,将JDK和Tomcat都安装部署到:/export/server内

    mkdir -p /export/server

  3. 解压缩JDK安装文件:

tar -zxvf jdk-8u351-linux-x64.tar.gz -C /export/server(linux可以用rz命令上传文件)

  1. 配置JDK的软链接:ln -s /export/server/jdk1.8.0_351 /export/server/jdk

    (linux软连接:它的功能是为某一个文件在另外一个位置建立一个同步的链接。简单来说,就是windows里面的快捷方式。)

    # ln -s target source
    # ln -s:表示创建一个软连接;
    # target:表示目标文件(夹),即源文件。
    # source:表示当前目录的软连接名,即被创建出来的软连接名称以及放置在何处。
    
  2. 配置JAVA_HOME环境变量,以及将$JAVA_HOME/bin文件夹加入PATH环境变量中

    # 编辑/etc/profile文件
    vim /etc/profile
    export JAVA_HOME=/export/server/jdk
    export PATH=$PATH:$JAVA_HOME/bin
    
  3. 生效环境变量:source /etc/profile

  4. 配置java执行程序的软连接

    # 删除系统自带的java程序
    rm -f /usr/bin/java
    # 软连接我们自己安装的java程序
    ln -s /export/server/jdk/bin/java /usr/bin/java
    
  5. 执行验证:

    java -version
    javac -version
    
八、关闭防火墙和SElinux
  1. 集群化软件之间需要通过端口互相通信,为了避免出现网络不通的问题,我们可以简单的在集群内部关闭防火墙。

    systemctl stop firewalld
    systemctl disable firewalld
    
  2. Linux有一个安全模块:SELinux,用以限制用户和程序的相关权限,来确保系统的安全稳定。

    在当前,我们只需要关闭SELinux功能,避免导致后面的软件允许出现问题即可。

    VIM /etc/sysconfig/selinux
    
    # 将第七行,SELinux=enforcing改为
    SELinux = disabled
    # 保存后退出,重启虚拟机即可,注意disabled单词不要写错,不然无法启动系统。
    
九、修改时区并配置自动时间同步

以下炒作在三台Linux均执行

  1. 安装ntp软件

    yum install -y ntp

  2. 更新时区

    rm -f /etc/localtime; sudo ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

  3. 同步时间

    ntpdate -u ntp.aliyun.com

  4. 开启ntp服务并设置开机启动

    systemctl start ntpd

    systemctl enable ntpd

十、拍摄快照保存状态

点击拍摄快照文章来源地址https://www.toymoban.com/news/detail-461817.html

到了这里,关于hadoop_虚拟机linux环境部署全教程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 清华大学开源ChatGLM2-6B开源模型在anaconda下的虚拟环境详细部署及安装教程

    python版本要求:3.8以上 没有安装python的没有关系,我们在下面安装anaconda中会自动生成python,有了python的建议删除,通过anaconda安装python以便于后面创建虚拟环境。 windows系统:Windows 10 以上,推荐N卡(NVIDIA显卡20系列以上) 注意:处理器为AMD容易报错,intel的不容易报错,配

    2024年02月16日
    浏览(89)
  • 【AI作画】stable diffusion webui Linux虚拟机 Centos 详细部署教程

    环境:虚拟机Centos7、6处理器、8G内存+10G交换内存、没有GPU使用CPU硬解 windows版本的可以直接使用整合包:看评论的转载链接自行下载,解压即可用 提示:这里可能source后版本是1.8.3,只需要重新yum remove git source /etc/profile 提示:注意最后修改vim 和 urlgrabber-ext-down 提示:我这里

    2024年02月11日
    浏览(50)
  • 虚拟机集群部署hadoop

    以三台虚拟机为例,配置如下: 1.台虚拟机:内存2G,处理2 硬盘50G ,如图 (电脑配置参考:8核16线程+32运行内存) 2.修改克隆虚拟机的静态IP root下执行 更改 DEVICE= e ns33 TYPE=Ethernet ONBOOT= yes BOOTPROTO= static NAME=\\\"ens33\\\" PREFIX=24 IPADDR=192.168.1.102 (要修改的 ip ) GATEWAY=192.168.1.2 DNS1

    2024年02月19日
    浏览(45)
  • 虚拟机上搭建Hadoop运行环境

    下载并安装VMware,这里不做赘述,具体步骤可自行百度。 本篇文章使用的VMware15版本演示,其他版本步骤同理。 2.1硬件部分 注意:这里不能超过自己电脑内核总数 打开任务管理器(快捷键 ctrl + alt +del),查看电脑内核总数: 查看到我电脑是有8个CPU内核 假如我们未来要克隆

    2024年02月04日
    浏览(61)
  • Linux离线arm环境安装部署docker详细教程

    1、下载 通过官网下载docker安装包,找arm环境的安装包,如果是x86环境可以下载对应的安装包 Index of linux/static/stable/aarch64/ 2、上传到服务器上,通过rz命令 上传成功后解压 tar -xvf docker-24.0.6.tgz  3. 复制文件到 /usr/bin cp ./docker/* /usr/bin 4. 创建docker.service vim  /etc/systemd/system/doc

    2024年02月03日
    浏览(46)
  • Linux 环境下使用 Docker 部署 Java 项目教程

    1. 安装 Docker:首先在 Linux 系统上安装 Docker,可以参考 Docker 官方文档进行安装。 2. 构建 Docker 镜像:将 Java 项目打包成 Jar 文件,并编写 Dockerfile 文件,使用 Dockerfile 文件构建 Docker 镜像。 dockerfile 文件内容如下:    FROM openjdk:8-jdk-alpine    VOLUME /tmp    ADD your-project-name

    2024年02月09日
    浏览(33)
  • 【Linux】安装VMWare虚拟机(安装配置)和配置Windows Server 2012 R2(安装配置连接vm虚拟机)以及环境配置(Windows版详细教程)

    目录 一、操作系统简介 1、什么是操作系统 2、常见的操作系统 2.1、windows操作系统 2.2、UNIX操作系统 2.3、linux操作系统 2.4、mac操作系统 2.5、嵌入式操作系统 3、个人版本和服务器版本的区别 3.1、个人版本 3.2、服务器版本 3.3、总结 4、Linux的各个版本 4.1、Debian 4.2、Ubuntu 4.3、

    2024年02月07日
    浏览(77)
  • StableDiffusion-webUI环境配置、部署、汉化、扩展超详细步骤 || 服务器Linux Ubuntu/本地Windows || 比官方安装更高自定义度 || anaconda虚拟环境下

    目录 一、代码下载 以下指令用git下载代码(可能不能直接跑通,后续需要修改一些代码,见“ 四、代码修改”部分) 1. 下载 stable-diffusion-webui 仓库 2. 下载其他仓库 二、环境配置 0. 安装anaconda、CUDA、cuDNN 1. 建立并激活新 conda 环境 2. 安装 requirements.txt 中的依赖包 3

    2024年02月10日
    浏览(87)
  • 【Linux系统基础】(5)在Linux上集群化环境前置准备及部署Zookeeper、Kafka软件详细教程

    在前面,我们所学习安装的软件,都是以单机模式运行的。 后续,我们将要学习大数据相关的软件部署,所以后续我们所安装的软件服务,大多数都是以集群化(多台服务器共同工作)模式运行的。 所以,在当前小节,我们需要完成集群化环境的前置准备,包括创建多台虚

    2024年02月03日
    浏览(45)
  • Linux 虚拟机安装 hadoop

    目录 1 hadoop下载 2 解压hadoop 3 为 hadoop 文件夹改名 4 给 hadoop 文件夹赋权  5 修改环境变量 6 刷新环境变量 7 在hadoop313目录下创建文件夹data 8 检查文件  9 编辑 ./core-site.xml文件  10 编辑./hadoop-env.sh文件 11 编辑./hdfs-site.xml文件  12 编辑./mapred-site.xml 文件 13 编辑./yarn-site.xml文件

    2024年02月11日
    浏览(37)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包