【hadoop】windows上hadoop环境的搭建步骤

这篇具有很好参考价值的文章主要介绍了【hadoop】windows上hadoop环境的搭建步骤。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

前言

在大数据开发领域中,不得不说说传统经典的hadoop基础计算框架。一般我们都会将hadoop集群部署在服务器上,但是作为一个资深搬砖人,我们本地环境也需要一个开发hadoop的开发环境。那么,今天就安排一个在windows上搭建一个hadoop环境。
docker部署hadoop请移步

基础环境

下载hadoop安装包

http://archive.apache.org/dist/hadoop/core/hadoop-3.3.2/
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

解压。

下载hadoop在windows中的依赖

https://github.com/cdarlint/winutils
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

下载完成之后,解压,将3.2.2目录下的所有文件替换hadoop的bin目录下的文件:
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

并将hadoop.dll 文件复制到C:\Windows\System32 目录:
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

配置环境变量

HADOOP_HOME= D:\hadoop-3.2.2
Path中添加 %HADOOP_HOME%\bin
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

cmd输入 hadoop version
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

表示基础环境配置成功。

如果需要部署本地hadoop环境(HDFS)需要继续往下操作。

Hadoop hdfs搭建

创建hadfs数据目录

在hadoop-3.2.2目录下创建data目录
data目录下创建namenode和datanode存储目录
data\namenode
data\datanode
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

修改JAVA依赖

进入目录 etc\hadoop
修改hadoop-env.cmd
set JAVA_HOME=C:\Java\jdk1.8.0_271
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

修改配置文件

1、etc\hadoop目录,修改hdfs-site.xml

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>D:\\hadoop-3.2.2\\data\\namenode</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>D:\\hadoop-3.2.2\\data\\datanode</value>
    </property>
</configuration>

2、etc\hadoop目录,修改core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

初始化hdfs namenode

进入hadoop-3.2.2\bin目录,以管理员身份打开“命令提示符“
输入 hdfs namenode -format
看到seccessfully就说明format成功。如下图所示:
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

启动hdfs

进入hadoop-3.2.2\sbin目录
输入start-dfs.cmd,启动hdfs。
出现以下namenode和datanode窗口
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

浏览器访问:http://127.0.0.1:9870/
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据
【hadoop】windows上hadoop环境的搭建步骤,hadoop,大数据,hadoop,windows,大数据

至此,windows上的hadoop环境搭建完成,包含基础环境变量和HDFS。文章来源地址https://www.toymoban.com/news/detail-652346.html

到了这里,关于【hadoop】windows上hadoop环境的搭建步骤的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • windows搭建hadoop环境(解决HADOOP_HOME and hadoop.home.dir are unset)

    一、软件安装 1、JDK1.8 链接:https://pan.baidu.com/s/1jqqWb-3JNMDW3DbvibYlJQ?pwd=agoi 提取码:agoi 2、hadoop-3.1.3版本 链接:https://pan.baidu.com/s/1cRkMc7LHPpza7n2oWqyLGw?pwd=ecid 提取码:ecid 3、winutils-master 3.1.1版本下载(windows下运行hadoop必须要下载这个!这个版本可以适用于hadoop3.1.x) 链接:http

    2024年02月09日
    浏览(43)
  • 【大数据】hadoop运行环境搭建(搭建如此简单)

    首先准备好工具。下载好最新的VMware Workstation,CentorOS 7运行Linux,建议Linux桌面标准版,且创建好一个用户 安装模板虚拟机。IP地址192.168.150.100(自定义)、主机名称hadoop100、内存4G、硬盘50G,嘎嘎重要,一步一步来完成 vim /etc/sysconfig/network-scripts/ifcfg-ens33 进入配置文件(想不

    2024年02月08日
    浏览(37)
  • 【大数据】Hadoop运行环境搭建

    使用VMware虚拟机搭建基于CentOS7的Hadoop环境: cpu核数(需要搭建3台Hadoop组成集群,加上Windows本机,所以可以分配的数量为本机的cpu核数除以4) 内存至少4G 硬盘最少50G 创建虚拟机: 新建虚拟机,选择自定义(高级)—硬件兼容性默认—选择稍后安装操作系统 —客户机操作系统

    2024年02月08日
    浏览(43)
  • 大数据技术之Hadoop-运行环境搭建

     1. 设置VMware 网段   在 VMware 的虚拟网络编辑器中,将 VMnet8 虚拟网卡的: 网段设置为: 192.168.88.0 网关设置为:192.168.88.2  2. 下载CentOS操作系统 首先,我们需要下载操作系统的安装文件,本次使用 CentOS7.6 版本进行学习: 首先,我们需要下载操作系统的安装文件,本次使用

    2024年03月10日
    浏览(58)
  • 大数据Hadoop之——部署hadoop+hive+Mysql环境(window11)

    目录 一、安装JDK8 1)JDK下载地址 2)设置环境变量 二、Hadoop安装(window10环境) 1)下载Hadoop3.1.3 2)Hadoop配置环境变量 3)在hadoop解压目录下创建相关目录 4)修改Hadoop配置文件 1、core-site.xml文件:添加以下配置 2、hdfs-site.xml文件:添加以下配置,路径改成自己的安装路径 3、

    2024年02月08日
    浏览(47)
  • 大数据学习1 - hadoop环境搭建及操作

    目录 目录 一、什么是大数据? 二、什么是hadoop? 1.Hadoop核心组件 2.HDFS架构 3.MapReduce  3.Yarn架构  ​编辑  三、Hadoop的集群模式 1.完全分布模式  2.伪分布模式 3.独立模式 四、Hadoop创建伪分布式模式 1.获取安装Hadoop 2.修改Hadoop配置文件 3.启动hadoop 4.运行WerdCount测试 五、完全

    2024年02月03日
    浏览(48)
  • 在Windows 环境下使用 Nginx 搭建 HTTP文件服务器 实现文件下载 全步骤(详细)

    “Nginx 是一款轻量级的 HTTP 服务器,采用事件驱动的异步非阻塞处理方式框架,这让其具有极好的 IO 性能,时常用于服务端的 反向代理 和 负载均衡 。 它是由俄罗斯人 伊戈尔·赛索耶夫为俄罗斯访问量第二的 Rambler.ru 站点开发的,并于2004年首次公开发布的。 Nginx 是什么,

    2024年02月03日
    浏览(71)
  • 头歌大数据作业二:搭建Hadoop环境及HDFS

    课外作业二:搭建Hadoop环境及HDFS 作业详情 内容 阿里云-云起实验室-《搭建Hadoop环境》-Hadoop-2.10.1伪分布式: 1.截图本实验ECS的公网IP地址,并添加彩色框标注,如下图所示: 2.步骤6.启动Hadoop成功之后,截图并添加彩色框标注,如下图所示 3.hdfs 根目录创建文件夹(文件夹命

    2024年02月08日
    浏览(55)
  • hadoop win11安装hadoop环境 winutils.exe获取,windows安装大数据运行环境 winutils文件获取,winutils文件 hadoop(十四)

    注:有些win环境的大数据dll文件,winutils.exe需要积分下载,我没有积分,提供一份github链接 每个版本基本都有,挺全。 1. github地址: GitHub - cdarlint/winutils: winutils.exe hadoop.dll and hdfs.dll binaries for hadoop windows 2. 从上述链接,下载工程,复制出来自己的版本,我hadoop安装的3.3.4,

    2024年02月04日
    浏览(61)
  • 大数据环境搭建 Hadoop+Hive+Flume+Sqoop+Azkaban

    Hadoop:3.1.0 CentOS:7.6 JDK:1.8 这里网上教程很多,就不贴图了 【内存可以尽量大一些,不然Hive运行时内存不够】 创建tools目录,用于存放文件安装包 将Hadoop和JDK的安装包上传上去 创建server目录,存放解压后的文件 解压jdk 配置环境变量 配置免密登录 配置映射,配置ip地址和

    2024年02月09日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包