【Hive】Hive在调用执行MapReduce进程时报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.

这篇具有很好参考价值的文章主要介绍了【Hive】Hive在调用执行MapReduce进程时报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

今天,在测试Hive时,碰到了以下错误:

hive (default)> INSERT INTO test VALUES ('kuroneko359',20);
Query ID = root_20231207144941_56661aca-5d0c-40c5-83b3-1631434f25a5
Total jobs = 3
Launching Job 1 out of 3
Number of reduce tasks determined at compile time: 1
In order to change the average load for a reducer (in bytes):
  set hive.exec.reducers.bytes.per.reducer=<number>
In order to limit the maximum number of reducers:
  set hive.exec.reducers.max=<number>
In order to set a constant number of reducers:
  set mapreduce.job.reduces=<number>
2023-12-07 14:49:43,919 INFO  [bf528afe-a11e-4444-98a7-aad77cef2125 main] client.RMProxy: Connecting to ResourceManager at bigdata1/192.168.72.101:8032
2023-12-07 14:49:44,095 INFO  [bf528afe-a11e-4444-98a7-aad77cef2125 main] client.RMProxy: Connecting to ResourceManager at bigdata1/192.168.72.101:8032
Starting Job = job_1701931585546_0001, Tracking URL = http://bigdata1:8088/proxy/application_1701931585546_0001/
Kill Command = /opt/module/hadoop/bin/mapred job  -kill job_1701931585546_0001
Hadoop job information for Stage-1: number of mappers: 0; number of reducers: 0
2023-12-07 14:49:50,949 Stage-1 map = 0%,  reduce = 0%
Ended Job = job_1701931585546_0001 with errors
Error during job, obtaining debugging information...
FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
MapReduce Jobs Launched: 
Stage-Stage-1:  HDFS Read: 0 HDFS Write: 0 FAIL
Total MapReduce CPU Time Spent: 0 msec
hive (default)> 

从报错的内容上看,应该是调用MapReduce时出现了错误。

尽管查看日志,也没有明确的指出出现错误的原因:【Hive】Hive在调用执行MapReduce进程时报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.,hive,hadoop,数据仓库

于是,我便想到了用Hadoop来执行MapReduce来测试MapReduce的功能是否正常:

hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar pi 3 10

执行以上命令,发现调用MapReduce时确实出现了问题:

根据程序提供的错误,我们可以得知,是MapReduce找不到Java的位置,导致程序无法正常执行。

解决方法:

在Hadoop的yarn-site.xml中添加JAVA_HOME,添加完之后别忘了分发到其他节点。

再次执行原来的命令,发现又出现了一个新的错误:

解决方法:

在终端中输入:

echo $(hadoop classpath)

获取到hadoop classpath,将结果添加到yarn-site.xml中:

<property>
        <name>yarn.application.classpath</name>
        <value>/opt/module/hadoop/etc/hadoop:/opt/module/hadoop/share/hadoop/common/lib/*:/opt/module/hadoop/share/hadoop/common/*:/opt/module/hadoop/share/hadoop/hdfs:/opt/module/hadoop/share/hadoop/hdfs/lib/*:/opt/module/hadoop/share/hadoop/hdfs/*:/opt/module/hadoop/share/hadoop/mapreduce/lib/*:/opt/module/hadoop/share/hadoop/mapreduce/*:/opt/module/hadoop/share/hadoop/yarn:/opt/module/hadoop/share/hadoop/yarn/lib/*:/opt/module/hadoop/share/hadoop/yarn/*</value>
</property>

保存并分发yarn-site.xml,之后重启yarn。

再次执行先前使用Hadoop运行MapReduce的程序,发现可以正常执行:

之后进入Hive运行刚才的语句,问题成功解决。文章来源地址https://www.toymoban.com/news/detail-769993.html

到了这里,关于【Hive】Hive在调用执行MapReduce进程时报错:FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • IDEA 运行hql 出现FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.mr.MapRedTas

    启用的hiveserver2 的模拟用户功能 ,依赖于Hadoop 提供的proxy user(代理用户功能),只有Hadoop中的代理用户才能模拟其他用户身份访问 Hadoop集群。 因此,需要将hiverserver2 的启动用户设置为 Hadoop 的代理用户 修改hadoop 配置文件 core-site.xml 添加如下配置 重启Hadoop 以及Hive 再次运

    2024年02月11日
    浏览(46)
  • linux centos7环境下初始化hive时报错*** schemaTool failed ***

    执行下面初始化命令时失败 [zxx@node1 bin]$ schematool -dbType mysql -initSchema  从报错信息来看,是因为拒绝访问node1 解决办法: 为node1进行授权,执行以下命令 结果如下图所示 重新初始化,发现加载驱动报错:failed to load driver 原来是忘记重新启动mysql服务了 启动服务之后重新初始

    2024年02月12日
    浏览(49)
  • Hive 中执行 SQL语句 报错 :FAILED: SemanticException org.apache.hadoop.hive.ql.metadata.HiveException: java.

    在命令输入 hive 启动后: 解决方案: **错误原因:**服务端未开启服务,在hive服务端使用命令:hive --service metastore 然后再启动hive , 就可以正常使用sql语句了。 **其他原因:**有的是mysql没有启动,下面有完整的hive 启动流程 启动hive 流程(很多问题往往是少了步骤导致的)

    2024年02月15日
    浏览(53)
  • Java进程ProcessBuilder类的介绍及使用,ProcessBuilder调用外部程序执行shell命令Linux命令

    目录 ProcessBuilder类的介绍及使用 【前言】 【正文】 --构造方法-- --常用方法-- --使用技巧-- --调用本地Shell命令,实例-- 【总结】 【注意】         在做一个项目的时候需要用到运行时动态执行JAVA命令,一开始的思路是运行时生成bat脚本,然后通过Runtime类的exec方法之行

    2024年02月09日
    浏览(43)
  • SQL Server的执行计划(Execution Plans)

    为了能够执行查询,SQL Server 数据库引擎必须分析该语句,以确定访问所需数据的最有效方法。此分析由称为查询优化器的组件处理。查询优化器的输入由查询、数据库架构(表和索引定义)和数据库统计信息组成。查询优化器的输出是查询执行计划,有时称为查询计划或执

    2023年04月19日
    浏览(38)
  • 成功解决Execution failed for task ‘:app:checkDebugAarMetadata‘

    yarn android 的时候出现这个错误: Execution failed for task ‘:app:checkDebugAarMetadata’ 详细错误信息如下 Could not resolve all files for configuration ‘:app:debugRuntimeClasspath’. Could not find com.android.support.constraint:constraint-layout:1.1.3. Searched in the following locations: - https://jcenter.bintray.com/com/android/su

    2024年02月06日
    浏览(39)
  • RuntimeError:cuDNN error:CUDNN_STATUS_EXECUTION_FAILED

    最近在服务器上跑Deeplabv3进行语义分割时,需要使用GPU版的pytorch。 我在Anaconda下配置了适配服务器CUDA的pytorch,但是报错如下,(下图无限接近于我的错误,但是我忘记截图我的报错了,所以用了下面这张网图) 可以看到每次报错都在 conv.py 这个文件,就是在做 CNN 运算时出

    2024年02月03日
    浏览(49)
  • execution failed for task ‘:×××:compiledebugkotlin‘解决办法--Android Studio

    一个月前创建的一个kotlin activity项目,当时使用的kotlin版本是1.5×,后来在当前项目下创建了一个compose模块,建完后手贱更新了kotlin版本(1.6.10)。 运行compose activity的时候就报这个错误: execution failed for task \\\':composetutorial1:compiledebugkotlin\\\' 简言之就是kotlin版本和compose版本不兼

    2023年04月08日
    浏览(38)
  • Android 开发 错误 Execution failed for task ‘:app:processDebugMainManifest‘.

    在配置文件AndroidManifest.xml中添加代码android:exported=“true” 关于android:exported=\\\"true\\\"的解释: Android相关属性的介绍:android:exported = true 在Activity中该属性用来标示:当前Activity是否可以被另一个Application的组件启动:true允许被启动;false不允许被启动。 android:exported 是Android中的四

    2024年02月10日
    浏览(53)
  • Execution failed for task ‘:keyboard_utils:compileDebugKotlin‘.

    这个错误是keyboard_utils依赖报错。 这个问题在keyboard_utils github项目的issues 有记载Project does not run with new Flutter 2.10.0 详细错误信息: 解决方式: 1.建议使用 1.3.4 版本。 2.从写该依赖的handleKeyboard()方法:

    2024年02月06日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包