1、问题描述
启动Hadoop,使用hiveserver2
启动Hive的JDBC服务并使用IDE连接到Hive,创建表成功,但是INSERT插入数据时经过长时间加载后无法得到预期结果,插入不成功。IDE最终也会提示错误,但仅仅是一个网络异常。Linux控制台显示警告:
WARNING:Hive-on-MR is deprecated in Hive 2 and may not be available in the future versions. Consider using a different execution engine (i.e. spark, tez) or using Hive 1.X releases.
Query ID = root_20231112140522_fda3dd73-cfa3-4f62-a925-aa02cc107526
Total jobs = 3
Launching Job 1 out of 3
Number of reduce tasks is set to 0 since there's no reduce operator
然后使用hive
命令换为Hive的控制台操作,结果依旧如此
2、原因分析
经过分析警告翻译:
Hive-on-MR
在Hive 2
中已弃用,并且在未来版本中可能不可用。考虑使用不同的执行引擎(例如Spark、Tez)或使用Hive 1.x
版本
我们发现,这就很明显了,说明Hive在2.x
版本中已经不支持MapReduce了,让你换为Spark或Tex
然而,很多小伙伴都是本地测试时使用的INSERT,更换Spark、Tez可不是那么容易;实际工作中根据生产环境需要可直接进行引擎修改,甚至都不用你修改,底层自动优化自动选择执行引擎
那我要是就不想换,你还能不让我不用MapReduce了?
3、问题解决
经过查找资料,网友们发现将Hive设置成本地模式来执行任务允许你使用MapReduce
1) 临时设置Hive本地模式:
set hive.exec.mode.local.auto=true;
2) 永久设置Hive本地模式:
修改Hive配置文件hive-site.xml
,添加如下属性配置:
<property>
<name>hive.exec.mode.local.auto</name>
<value>true</value>
</property>
修改配置后需要重启Hive
3) 验证
再次执行INSERT操作,很快就能完成:
HDFS数据也能写入:文章来源:https://www.toymoban.com/news/detail-761971.html
文章来源地址https://www.toymoban.com/news/detail-761971.html
到了这里,关于Hive插入数据警告:Hive-on-MR is deprecated in Hive 2 and may not be available in the future versions的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!