【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils )

这篇具有很好参考价值的文章主要介绍了【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils )。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。





一、下载 Hadoop



Hadoop 发布版本在 https://hadoop.apache.org/releases.html 页面可下载 ;
【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

当前最新版本是 3.3.6 , 点击 Binary download 下的 binary (checksum signature) 链接 ,
【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划
进入到 Hadoop 3.3.6 下载页面 :

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

下载地址为 :

https://dlcdn.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz

官方下载速度很慢 ;

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

这里提供一个 Hadoop 版本 , Hadoop 3.3.4 + winutils , CSDN 0 积分下载地址 :

https://download.csdn.net/download/han1202012/88157568





二、解压 Hadoop



解压时 , 不要直接使用 解压工具 解压 , 会报错 ;

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

在 " 搜索 " 中 , 搜索 cmd , 然后右键点击 命令提示符 应用 ,

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划
此时弹出的 命令提示符 有 管理员 权限 ;
【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

进入 Hadoop 的安装目录 D:\001_Develop\052_Hadoop ,

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

执行

tar zxvf hadoop-3.3.4.tar.gz

命令 , 解压该压缩包 , 这样可以将 hadoop 完美解压出来 , 不会报错 ;

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

解压 Hadoop 完成后 , Hadoop 路径为

D:\001_Develop\052_Hadoop\hadoop-3.3.4

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划





三、设置 Hadoop 环境变量



在 环境变量 中 , 设置

HADOOP_HOME = D:\001_Develop\052_Hadoop\hadoop-3.3.4

系统 环境变量 ;

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

在 Path 环境变量中 , 增加

%HADOOP_HOME%\bin
%HADOOP_HOME%\sbin

环境变量 ;

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划





四、配置 Hadoop 环境脚本



设置 D:\001_Develop\052_Hadoop\hadoop-3.3.4\etc\hadoop\hadoop-env.cmd 脚本中的 JAVA_HOME 为真实的 JDK 路径 ;

set JAVA_HOME=%JAVA_HOME%

修改为

set JAVA_HOME=D:\001_Develop\031_Java8u144_Frida\jdk1.8.0_144

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划

注意 : 路径中不要出现空格 , 尤其是 Program Files 目录 , 不要把 JDK 安装在这个目录中 , 有大坑 ;





五、安装 winutils



将 winutils-master\hadoop-3.3.0\bin 中的 hadoop.dll 和 winutils.exe 文件拷贝到 C:\Windows\System32 目录中 ;

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划





六、重启电脑



重启电脑 , 一定要重启 , 否则不生效 ;





七、验证 Hadoop 安装效果



然后在命令行中 , 执行

hadoop -version

验证 Hadoop 是否安装完成 ;

C:\Windows\system32>hadoop -version
java version "1.8.0_144"
Java(TM) SE Runtime Environment (build 1.8.0_144-b01)
Java HotSpot(TM) Client VM (build 25.144-b01, mixed mode)

C:\Windows\system32>hadoop
Usage: hadoop [--config confdir] [--loglevel loglevel] COMMAND
where COMMAND is one of:
  fs                   run a generic filesystem user client
  version              print the version
  jar <jar>            run a jar file
                       note: please use "yarn jar" to launch
                             YARN applications, not this command.
  checknative [-a|-h]  check native hadoop and compression libraries availability
  conftest             validate configuration XML files
  distch path:owner:group:permisson
                       distributed metadata changer
  distcp <srcurl> <desturl> copy file or directories recursively
  archive -archiveName NAME -p <parent path> <src>* <dest> create a hadoop archive
  classpath            prints the class path needed to get the
                       Hadoop jar and the required libraries
  credential           interact with credential providers
  jnipath              prints the java.library.path
  kerbname             show auth_to_local principal conversion
  kdiag                diagnose kerberos problems
  key                  manage keys via the KeyProvider
  trace                view and modify Hadoop tracing settings
  daemonlog            get/set the log level for each daemon
 or
  CLASSNAME            run the class named CLASSNAME

Most commands print help when invoked w/o parameters.

C:\Windows\system32>

【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils ),开发环境,hadoop,大数据,分布式,原力计划文章来源地址https://www.toymoban.com/news/detail-637738.html

到了这里,关于【开发环境】安装 Hadoop 运行环境 ( 下载 Hadoop | 解压 Hadoop | 设置 Hadoop 环境变量 | 配置 Hadoop 环境脚本 | 安装 winutils )的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 在win10上安装配置Hadoop的环境变量

    在windows10系统中运行seatunnel 2.1. 下载 Hadoop包 从 Apache Hadoop 官网下载最新版本的 Hadoop,版本号保持与服务端的Hadoop版本一致。 https://hadoop.apache.org/releases.html Index of /apache/hadoop/core/hadoop-3.2.3/ 2.2.  解压 Hadoop 将下载的 Hadoop 压缩包解压到任意目录,例如 D:apphadoop-3.2.3 2.3. 配置

    2024年01月22日
    浏览(46)
  • 【项目实战】在win10上安装配置Hadoop的环境变量

    注意:该教程适用于:远程连接Linux上的Hadoop集群,因此本步骤是不需要在本地再下载hadoop的 在win10操作系统上,运行Hadoop以及其相关依赖包(比如Hbase依赖包)时,我遇到的情况是,我需要使用SpringBoot+Phoenix的组合去连接Hbase这往往是需要在本机(Windows 10)上安装配置 Hado

    2024年02月12日
    浏览(38)
  • JDK 下载 安装 配置环境变量

    进入Oracle官网 oracle官网:https://oracle.com/ 项目中找到Java java项目页面 JDK 下载 创建 jdk 安装目录 d:devjava 将下载的 jdk.zip 文件解压缩到 安装目录 d:devjava 在Windows系统中,通过 Win+R 的快捷键可以快速打开Windows系统的“运行”窗口,然后在这里输入相应的命令就可以快速执行

    2024年02月06日
    浏览(50)
  • 设置hadoop+安装java环境

    上一篇  接着上一篇 先导入之前导出的虚拟机 选择导出到对应的文件夹中 这里修改一下保存虚拟机的位置(当然你默认也可以) 改一个名字  新建一个share文件夹用来存放共享软件的文件夹 在虚拟机的设置中找到这个设置  这样就把需要共享的文件放在一个文件夹,要下载

    2024年02月05日
    浏览(26)
  • InnoSetup 安装程序设置环境变量

    InnoSetup 通过写入注册表值实现安装程序设置系统全局环境变量 环境变量以字符串值存储在注册表中,因此可以使用 [Registry] 区段操作它们。系统范围的环境变量位于: \\\"HKEY_LOCAL_MACHINESYSTEMCurrentControlSetControlSession ManagerEnvironment\\\" 特定于用户的环境变量位于: \\\"HKEY_CURRENT_USERE

    2023年04月23日
    浏览(28)
  • linux安装JDK及hadoop运行环境搭建

    1.linux中安装jdk (1)下载JDK至opt/install目录下,opt下创建目录soft,并解压至当前目录 tar xvf ./jdk-8u321-linux-x64.tar.gz -C /opt/soft/ (2)改名 (3)配置环境变量:vim /etc/profile #JAVA_HOME export JAVA_HOME=/opt/soft/jdk180 export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar export PATH=$PATH:$JAVA_HOM

    2024年02月11日
    浏览(35)
  • 【安装】windows环境下的 JDK官网下载 & 安装配置 & 环境变量

    Oracle 甲骨文中国 | 云应用和云平台 选择产品/Java 下载JDK8 点击下载Java 选择Java archive 选择x64位安装包 登录下载 不用安装公共JRE,安装JDK时默认会安装JRE(Java Runtime Environment) JDK: Java D evelopment K it —Java开发环境 JRE: Java R untime E nviroment — Java运行环境 JVM: Java V irtual M achine —

    2024年02月16日
    浏览(64)
  • JDK 1.8 下载安装,配置环境变量

    找到 Oracle 下载官网 首先打开JDK官网,JDK1.8的下载网址为:https://www.oracle.com/cn/java/technologies/downloads/#java8-windows,进入到网址如下图所示: 向下滑动到 JDK1.8的下载界面,如下图所示:选择JDK的版本,根据您的操作系统选择适当的版本。这里我们是选择 下载Windows版本的,下载

    2024年02月12日
    浏览(47)
  • MySQL下载安装环境变量配置,常用命令

    mysql官网 下载连接 这个是下载图形安装 https://dev.mysql.com/downloads/installer/ 这个是下载免图形安装 https://dev.mysql.com/downloads/mysql/ 担心个别宝宝没有账号,这边也提供一下,方便下载: 账户:1602404824@qq.com 密码:wf1996ROOT# 核心操作步骤 选择自定义安装 选择对应服务 后面一直点

    2024年02月09日
    浏览(31)
  • 下载安装npm,配置环境变量详细教程

    要在本地运行项目,就需要安装npm,其次还需要配置项目依赖node-modules。今天我们就先安装npm 在官网下载 http://nodejs.cn/download/ 选择windows或者Mac即可 可以看到版本号,说明成功了 然后验证是否能使用npm 出现这些信息,就证明成功了。 创建2个新的文件夹,用在存放全局包 分

    2024年01月21日
    浏览(60)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包