Windows环境下Hadoop的安装和配置

这篇具有很好参考价值的文章主要介绍了Windows环境下Hadoop的安装和配置。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Windows 环境下 Hadoop 的安装和配置

平台及版本

  • Windows10
  • JDK1.8.0_192
  • Hadoop2.7.3

安装 Java1.8,并配置环境变量

首先要安装好Java。没装的先搜索安装Java的教程吧。

这里我已经安装好了,需要配置好环境变量,Hadoop的安装会用到。

路径:C:\Program Files\Java\jdk1.8.0_192

环境变量:HAVA_HOME,值:C:\Program Files\Java\jdk1.8.0_192

安装 Hadoop2.7.3

  1. 从hadoop-2.7.3下载hadoop-2.7.3.tar.gz,解压后放到C盘根目录下:

Windows环境下Hadoop的安装和配置

  1. 原版的Hadoop不支持Windows系统,我们需要修改一些配置方便在Windows上运行,需要从网上搜索下载hadoop对应版本的windows运行包hadooponwindows-master.zip。解压后,复制解压开的bin文件和etc文件到hadoop-2.7.3文件中,并替换原有的bin和etc文件。

hadooponwindows-master.zip下载:
链接:https://pan.baidu.com/s/1M2i8prhEPFOIROG_EIYhJw
提取码:acif

  1. 配置Java环境变量:

    Windows环境下Hadoop的安装和配置

    并在Path系统变量中加上:%JAVA_HOME%\bin;

  2. 配置Hadoop环境变量:

    Windows环境下Hadoop的安装和配置

    并在Path系统变量中加上:%HADOOP_HOME%\bin;

  3. 使用编辑器打开C:\hadoop-2.7.3\etc\hadoop\hadoop-env.cmd,找到set JAVA_HOME,将等号右边的值改成自己Java jdk的路径(如果路径中有Program Files,则将Program Files改为 PROGRA~1)。

    Windows环境下Hadoop的安装和配置

  4. 配置好上面所有操作后,win+R 输入cmd 打开命令提示符,然后输入hadoop version,按回车,如果出现如图所示结果,则说明安装成功:

    Windows环境下Hadoop的安装和配置

Hadoop 核心配置文件

在hadoop-2.7.3根目录下新建data文件夹和tmp文件夹,再在data文件夹里面新建datanote和namenote文件夹:

Windows环境下Hadoop的安装和配置

在hadoop-2.7.3\etc\hadoop中找到以下几个文件用文本编辑器打开。

  1. 打开 hadoop-2.7.3/etc/hadoop/core-site.xml, 复制下面内容粘贴到最后并保存:

    <configuration>
        <property>
            <name>fs.defaultFS</name>
            <value>hdfs://localhost:9000</value>
        </property>
    </configuration>
    
  2. 打开hadoop-2.7.3/etc/hadoop/mapred-site.xml, 复制下面内容粘贴到最后并保存:

    <configuration>
        <property>
           <name>mapreduce.framework.name</name>
           <value>yarn</value>
        </property>
    </configuration>
    
  3. 打开hadoop-2.7.3/etc/hadoop/hdfs-site.xml, 复制下面内容粘贴到最后并保存:

    <configuration>
     <property>
            <name>dfs.replication</name>
            <value>1</value>
        </property>
        <property>
            <name>dfs.namenode.name.dir</name>
            <value>file:/C:/hadoop-2.7.3/data/namenode</value>
        </property>
        <property>
            <name>dfs.datanode.data.dir</name>
            <value>file:/C:/hadoop-2.7.3/data/datanode</value>
        </property>
    </configuration>
    
  4. 打开hadoop-2.7.3/etc/hadoop/yarn-site.xml,复制下面内容粘贴到最后并保存:

    <configuration>
        <property>
           <name>yarn.nodemanager.aux-services</name>
           <value>mapreduce_shuffle</value>
        </property>
        <property>
           <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
           <value>org.apache.hadoop.mapred.ShuffleHandler</value>
        </property>
    </configuration>
    

从C:\hadoop-2.7.3\bin下拷贝hadoop.dll到 C:\Windows\System32 ,不然在window平台使用MapReduce测试时报错:

Windows环境下Hadoop的安装和配置

启动 Hadoop 服务

到C:\hadoop-2.7.3\bin下,按下Win+R进入命令行窗口,输入hdfs namenode -format,执行结果如下图所示:

Windows环境下Hadoop的安装和配置

格式化之后,namenode文件夹里会自动生成一个current文件,说明格式化成功:

Windows环境下Hadoop的安装和配置

到C:\hadoop-2.7.3\sbin下,按下Win+R进入命令行窗口,输入start-all,启动Hadoop集群:

Windows环境下Hadoop的安装和配置

出现下面四个窗口表示启动Hadoop集群成功:

Windows环境下Hadoop的安装和配置

在同命令行窗口下输入start-all(或运行start-all.cmd),启动Hadoop服务,等待他启动完成。

完成之后,输入jps,可以查看运行的所有服务:

Windows环境下Hadoop的安装和配置

访问http://localhost:50070,这是Hadoop的管理页面:

Windows环境下Hadoop的安装和配置

访问http://localhost:8088,这是yarn的Web界面:

Windows环境下Hadoop的安装和配置

在同命令行窗口下输入stop-all(或运行stop-all.cmd),关闭Hadoop服务。文章来源地址https://www.toymoban.com/news/detail-401472.html

到了这里,关于Windows环境下Hadoop的安装和配置的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils )

    Hadoop 发布版本在 https://hadoop.apache.org/releases.html 页面可下载 ; 当前最新版本是 3.3.6 , 点击 Binary download 下的 binary (checksum signature) 链接 , 进入到 Hadoop 3.3.6 下载页面 : 下载地址为 : https://dlcdn.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz 官方下载速度很慢 ; 这里提供一个 Hadoop 版

    2024年02月13日
    浏览(48)
  • hadoop win11安装hadoop环境 winutils.exe获取,windows安装大数据运行环境 winutils文件获取,winutils文件 hadoop(十四)

    注:有些win环境的大数据dll文件,winutils.exe需要积分下载,我没有积分,提供一份github链接 每个版本基本都有,挺全。 1. github地址: GitHub - cdarlint/winutils: winutils.exe hadoop.dll and hdfs.dll binaries for hadoop windows 2. 从上述链接,下载工程,复制出来自己的版本,我hadoop安装的3.3.4,

    2024年02月04日
    浏览(36)
  • 一、 配置安装hadoop环境

    一、 配置安装hadoop环境 1.1 在虚拟机安装linux操作系统 1)使用的虚拟机为VMware Workstation Pro 2) 新建虚拟机 1.2使用MobaXterm_Personal_22.1管理linux系统 1)MobaXterm主要用于操作linux系统,可以同时登录多态linux服务器进行操作。 2)使用MobaXterm登录linux系统 1.3 jdk的安装步骤 1)卸载原有

    2024年02月05日
    浏览(31)
  • Hadoop依赖环境配置与安装部署

      Hadoop是一个 分布式系统基础架构 , 是一个存储系统+计算框架的软件框架。主要解决海量数据存储与计算的问题,是 大数据 技术中的基石。Hadoop以一种可靠、高效、可伸缩的方式进行数据处理,用户可以在不了解分布式底层细节的情况下,开发分布式程序,用户可以轻松

    2024年02月09日
    浏览(34)
  • Hadoop简介、安装与环境变量配置

    Hadoop是由Apache基金会开源的具有可靠、可扩展、分布式计算的大数据框架。Hadoop可以简单的从单个服务器扩展到数千台机器,提供分布式的计算和存储服务。Hadoop通过检测和处理应用程序层的故障来为服务器集群提供高可用性服务。 Hadoop作为大数据框架,更多的是作为集群面

    2024年02月09日
    浏览(37)
  • 一、1、Hadoop的安装与环境配置

    安装JDK: 首先检查Java是否已经安装: 如果没有安装,点击链接https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 并选择相应系统以及位数下载(本文选择jdk-8u381-linux-x64.tar.gz,如具体版本不同则灵活修改) 为其单独创立一个文件夹,然后将其放到该目录下(

    2024年02月15日
    浏览(29)
  • 在win10上安装配置Hadoop的环境变量

    在windows10系统中运行seatunnel 2.1. 下载 Hadoop包 从 Apache Hadoop 官网下载最新版本的 Hadoop,版本号保持与服务端的Hadoop版本一致。 https://hadoop.apache.org/releases.html Index of /apache/hadoop/core/hadoop-3.2.3/ 2.2.  解压 Hadoop 将下载的 Hadoop 压缩包解压到任意目录,例如 D:apphadoop-3.2.3 2.3. 配置

    2024年01月22日
    浏览(46)
  • 【项目实战】在win10上安装配置Hadoop的环境变量

    注意:该教程适用于:远程连接Linux上的Hadoop集群,因此本步骤是不需要在本地再下载hadoop的 在win10操作系统上,运行Hadoop以及其相关依赖包(比如Hbase依赖包)时,我遇到的情况是,我需要使用SpringBoot+Phoenix的组合去连接Hbase这往往是需要在本机(Windows 10)上安装配置 Hado

    2024年02月12日
    浏览(38)
  • 头歌Hadoop 开发环境搭建及HDFS初体验(第2关:配置开发环境 - Hadoop安装与伪分布式集群搭建)

    注: 1 头歌《Hadoop 开发环境搭建及HDFS初体验》三关在一个实验环境下,需要三关从前往后按顺序评测,跳关或者实验环境结束后重新打开 不能单独评测通过 2 复制粘贴请用右键粘贴,CTRL+C/V不管用哦~ 第1关:配置开发环境 - JavaJDK的配置: 解压: 配置环境变量: 细节: vi

    2024年02月08日
    浏览(118)
  • 【Linux】Linux上的一些软件安装与环境配置(Centos7配置JDK、Hadoop)

    查询已安装的 jdk 列表 删除已经安装的 jdk 如果终端出现以下错误: /var/run/yum.pid 已被锁定,PID 为 1610 的另一个程序正在运行 。则输入以下命令:之后再执行以上删除 jdk 的命令 将 jdk-8u151-linux-x64.tar.gz 安装包通过 xftp 传到 CentOS 7 上 下载地址:链接:https://pan.baidu.com/s/1c-pl

    2024年04月10日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包