超详细的hive和mysql的安装与配置以及hive服务启动脚本

这篇具有很好参考价值的文章主要介绍了超详细的hive和mysql的安装与配置以及hive服务启动脚本。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

目录

一、说明

二、Hive安装与配置

1.上传文件并解压

2.修改目录名称

3.配置hive环境变量

4.删除冲突jar包

5.启动hadoop集群

6.初始化元数据库并启动

三、MySQL安装与配置

1.检查和上传文件并解压

四、hive服务启动脚本

1.创建脚本

2.修改权限

3.脚本使用方法


一、说明

本文使用的hive为:hive-3.1.2

mysql版本为:mysql-5.7.28

mysql驱动版本为:mysql-connector-java-5.1.37

本文采用本地安装模式

二、Hive安装与配置

1.上传文件并解压

进入/opt/software/目录

[root@bigdata2023master ~]$ cd /opt/software/

上传apache-hive-3.1.2-bin.tar.gz

上传mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar

上传mysql-connector-java-5.1.37.jar

解压apache-hive-3.1.2-bin.tar.gz

[root@bigdata2023master software]$ tar -zxvf apache-hive-3.1.2-bin.tar.gz -C /opt/module/

2.修改目录名称

[root@bigdata2023master software]$ mv /opt/module/apache-hive-3.1.2-bin/ /opt/module/hive-3.1.2

3.配置hive环境变量

[root@bigdata2023master software]$  vim /etc/profile.d/my_env.sh

在末尾添加内容

#HIVE_HOME
export HIVE_HOME=/opt/module/hive-3.1.2
export PATH=$PATH:$HIVE_HOME/bin

使环境变量的修改生效

[root@bigdata2023master software]$ source /etc/profile

4.删除冲突jar包

[root@bigdata2023master software]$ rm /opt/module/hive-3.1.2/lib/log4j-slf4j-impl-2.10.0.jar

5.启动hadoop集群

可以采用正常命令方式启动hadoop,这里使用脚本启动hadoop集群,没有脚本可看该作者脚本合集

[root@bigdata2023master software]$ myhadoop.sh start

6.初始化元数据库并启动

[root@bigdata2023master software]$ cd ../module/hive-3.1.2/bin/

[root@bigdata2023master bin]$ schematool -dbType derby -initSchema

启动hive

[root@bigdata2023master bin]$ hive

退出hive

hive> exit;

三、MySQL安装与配置

1.检查和上传文件并解压

查看是否已安装MySQL

[root@bigdata2023master ~]$ rpm -qa|grep mariadb

若已安装,需要卸载MySQL

[root@bigdata2023master ~]$  rpm -e --nodeps mariadb-libs

进入/opt/software/目录

[root@bigdata2023master ~]$ cd /opt/software/

解压mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar

[root@bigdata2023master software]$ tar -xf mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar

执行命令

[root@bigdata2023master software]$  yum install -y libaio

如果安装成功,或者显示以下内容,即可继续安装步骤:

软件包 libaio-0.3.109-13.el7.x86_64 已安装并且是最新版本

无须任何处理

安装,依次输入以下5条命令

 rpm -ivh mysql-community-common-5.7.28-1.el7.x86_64.rpm

 rpm -ivh mysql-community-libs-5.7.28-1.el7.x86_64.rpm

 rpm -ivh mysql-community-libs-compat-5.7.28-1.el7.x86_64.rpm

 rpm -ivh mysql-community-client-5.7.28-1.el7.x86_64.rpm

 rpm -ivh mysql-community-server-5.7.28-1.el7.x86_64.rpm

初始化数据库

[root@bigdata2023master software]$  mysqld --initialize --user=mysql

查看临时密码

[root@bigdata2023master software]$  cat /var/log/mysqld.log

怎么在服务器找hive sql脚本,hive,mysql,hadoop,大数据,big data将临时密码复制,或者暂时存到某处

启动MySQL

[root@bigdata2023master software]$  systemctl start mysqld

登录

[root@bigdata2023master software]$ mysql -uroot -p

输入临时密码

Enter password: 临时密码

登陆成功后,修改密码为123456

mysql> set password = password("123456");

使root允许任意ip连接

mysql> update mysql.user set host='%' where user='root';

mysql> flush privileges;

退出MySQL

mysql> exit;

拷贝MySQL的JDBC驱动至hive-3.1.2下的lib/

[root@bigdata2023master software]$ cp /opt/software/mysql-connector-java-5.1.37.jar /opt/module/hive-3.1.2/lib/

编写配置文件hive-site.xml

[root@bigdata2023master software]$ cd /opt/module/hive-3.1.2/conf/

[root@bigdata2023master conf]$ vim hive-site.xml

输入以下内容,或直接上传资料包内的hive-site.xml

输入或上传前,注意修改主机名(共三处)如果密码修改注意文件中也要修改

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>

    <!-- jdbc连接的URL -->

    <property>

        <name>javax.jdo.option.ConnectionURL</name>

        <value>jdbc:mysql://bigdata2023master:3306/metastore?useSSL=false</value>

    </property>

    <!-- jdbc连接的Driver -->

    <property>

        <name>javax.jdo.option.ConnectionDriverName</name>

        <value>com.mysql.jdbc.Driver</value>

    </property>

    <!-- jdbc连接的username -->

    <property>

        <name>javax.jdo.option.ConnectionUserName</name>

        <value>root</value>

    </property>

    <!-- jdbc连接的password -->

    <property>

        <name>javax.jdo.option.ConnectionPassword</name>

        <value>123456</value>

    </property>

    <!-- Hive元数据存储版本的验证 -->

    <property>

        <name>hive.metastore.schema.verification</name>

        <value>false</value>

    </property>

    <!-- 元数据存储授权 -->

    <property>

        <name>hive.metastore.event.db.notification.api.auth</name>

        <value>false</value>

        </property>

    <!-- Hive默认在HDFS的工作目录 -->

    <property>

        <name>hive.metastore.warehouse.dir</name>

        <value>/user/hive/warehouse</value>

    </property>

    <!-- 指定存储元数据要连接的地址 -->

    <property>

        <name>hive.metastore.uris</name>

        <value>thrift://bigdata2023master:9083</value>

</property>

    <!-- 指定hiveserver2连接的主机名 -->

    <property>

        <name>hive.server2.thrift.bind.host</name>

        <value>bigdata2023master</value>

    </property>

    <!-- 指定hiveserver2连接的端口号 -->

    <property>

        <name>hive.server2.thrift.port</name>

        <value>10000</value>

</property>

</configuration>

登录MySQL,输入密码

[root@bigdata2023master ~]$ mysql -uroot -p

新建hive元数据库

mysql> create database metastore;

mysql> exit;

初始化hive元数据库

[root@bigdata2023master ~]$ schematool -initSchema -dbType mysql -verbose

启动hive

[root@bigdata2023master ~]$ hive

退出hive

hive> exit;

四、hive服务启动脚本

1.创建脚本

#在所存放脚本的/bin目录下,由于之前创建了脚本路径为/home/leeroot/bin/
#这里首先进入此目录 全局生效的话需要将此路径配置环境变量,具体见该作者Hadoop的安装过程
cd /home/leeroot/bin/
vi hvserver.sh

输入的具体脚本内容为:

#!/bin/bash

if [ $# -lt 1 ]
then
    echo "Input No Args!"
    echo "请输入 $(basename $0) start/stop/restart/status"
    exit;
fi

HIVE_LOG_DIR=$HIVE_HOME/logs
if [ ! -d $HIVE_LOG_DIR ]
then
    mkdir -p $HIVE_LOG_DIR
fi

function check_process()
{
    pid=$(ps -ef 2>/dev/null | grep -v grep | grep -i $1 | awk '{print $2}')
    ppid=$(netstat -nltp 2>/dev/null | grep $2 | awk '{print $7}' | cut -d '/' -f 1)
    echo $pid
    [[ "$pid" =~ "$ppid" ]] && [ "$ppid" ] && return 0 || return 1
}

function hive_start()
{
    metapid=$(check_process HiveMetastore 9083)
    cmd="nohup hive --service metastore >$HIVE_LOG_DIR/metastore.log 2>&1 &"
    [ -z "$metapid" ] && eval $cmd || echo "Metastroe服务已启动"
    server2pid=$(check_process HiveServer2 10000)
    cmd="nohup hive --service hiveserver2 >$HIVE_LOG_DIR/hiveServer2.log 2>&1 &"
    [ -z "$server2pid" ] && eval $cmd || echo "HiveServer2服务已启动"
}

function hive_stop()
{
    metapid=$(check_process HiveMetastore 9083)
    [ "$metapid" ] && kill $metapid || echo "Metastore服务未启动"
    server2pid=$(check_process HiveServer2 10000)
    [ "$server2pid" ] && kill $server2pid || echo "HiveServer2服务未启动"
}

case $1 in
"start")
    hive_start
    ;;
"stop")
    hive_stop
    ;;
"restart")
    hive_stop
    sleep 3
    hive_start
    ;;
"status")
    check_process HiveMetastore 9083 >/dev/null && echo "Metastore服务运行正常" || echo "Metastore服务运行异常"
    check_process HiveServer2 10000 >/dev/null && echo "HiveServer2 服务运行正常" || echo "HiveServer2服务运行异常"
    ;;
*)
    echo "Input Args Error!"
    echo "请输入 $(basename $0) start/stop/restart/status"
    ;;
esac

2.修改权限

[root@bigdata2023master bin]$ chmod 777 hvservice.sh

3.脚本使用方法

hvservice.sh start或stop或restart(重启)或status(查看状态)

启动后需要等待一段时间才可以查看状态文章来源地址https://www.toymoban.com/news/detail-788099.html

到了这里,关于超详细的hive和mysql的安装与配置以及hive服务启动脚本的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【服务器】安装VMWare虚拟机(安装配置)和配置Windows Server 2012 R2(安装配置连接vm虚拟机)以及环境配置(Windows版详细教程)

    目录 一、操作系统简介 1、什么是操作系统 2、常见的操作系统 2.1、windows操作系统 2.2、UNIX操作系统 2.3、linux操作系统 2.4、mac操作系统 2.5、嵌入式操作系统 3、个人版本和服务器版本的区别 3.1、个人版本 3.2、服务器版本 3.3、总结 4、Linux的各个版本 4.1、Debian 4.2、Ubuntu 4.3、

    2024年02月06日
    浏览(52)
  • 配置Hive远程服务详细步骤

    HiveServer2支持多客户端的并发和认证,为开放API客户端如JDBC、ODBC提供了更好的支持。 (1)修改hive-site.xml,在文件中添加以下内容: (2)修改/home/software/hadoop/etc/hadoop/core-site.xml,增加如下内容: (3)将core-site.xml配置文件使用scp命令发送给各子节点 (4)一定要在启动Had

    2024年02月14日
    浏览(40)
  • Hadoop历险记(七 Hive配置和启动hiveservice2服务)

    之前讲了hive的元数据,它存储着hiveSQL映射和hdfs具体文件数据的对应关系。 但是元数据存在单独的mysql中 直接将它暴露给外部是不安全的,所以hive特别增加了一个元数据服务。 它作为元数据和外部客户端之间的一个中间人。 metastore有三种服务配置模式 同时也可以说这是h

    2024年02月03日
    浏览(35)
  • Mongodb 安装脚本(附服务器自启动)

    shell脚本 保存 install_mongo.sh vim mongodb.conf   MongoDB对用户的操作 创建用户 MongoDB创建用户必须进入到相关数据库下进行创建

    2024年02月09日
    浏览(32)
  • HIve安装配置(超详细)

    1)Hive官网地址 http://hive.apache.org/ 2)文档查看地址 https://cwiki.apache.org/confluence/display/Hive/GettingStarted 3)下载地址 http://archive.apache.org/dist/hive/ 4)github地址 https://github.com/apache/hive 1. 把 apache-hive-3.1.2-bin.tar.gz 上传到Linux的/export/software目录下 2. 解压 apache-hive-3.1.2-bin.tar.gz 到/expo

    2024年02月05日
    浏览(27)
  • 华为云云服务器评测|初始化配置SSH连接 & 安装MySQL的docker镜像 & 安装redis以及主从搭建 & 7.2版本redis.conf配置文件

    1.云耀云服务器L实例初始化配置,设置密码,ssh连接; 2.安装docker,安装运行mysql容器; 3.redis镜像的拉取,创建运行容器; 4.搭建redis主从,一主一从,7.2版本的redis.conf配置文件; 设置密码,官方要求复杂一点 进行远程登陆配置 添加开放的端口 在finalShell中新建SSH连接 系统

    2024年02月10日
    浏览(44)
  • 配置VMware实现从服务器到虚拟机的一键启动脚本

    正文共:1666 字 15 图,预估阅读时间:2 分钟 首先祝大家新年快乐!略备薄礼,18000个红包封面来讨个开年好彩头! 虽然之前将服务器放到了公网 ( 成本增加了100块,内网服务器上公网解决方案2.0重磅来袭! ) ,但是我们也介绍过L2TP是基于UDP协议的,难免存在丢包的情况

    2024年02月20日
    浏览(35)
  • Hadoop之Hive的安装配置(详细步骤)

    配置前准备 下载apache-hive-2.1.1-bin.tar.gz安装包并上传到XShell 在XShell上解压安装包 输入解压命令: 配置  1、配置环境变量 在文件末尾增加如下内容: 使环境变量生效 进入 cd /home/ZQ/apache-hive-2.1.1-bin/conf/ 2、配置hive-env.sh  如果有hive-env.sh.template文件则输入下面的命令将 hive-

    2024年02月04日
    浏览(29)
  • Hadoop和hive一键启动脚本

       停止hadoop服务 停止hive服务  

    2024年02月16日
    浏览(34)
  • Zookeeper(服务注册中心)安装以及启动服务

    ZooKeeper是一个分布式的开源协调服务,用于管理和协调大规模分布式系统中的各种任务。它提供了一个简单的分层命名空间,以及对数据的强一致性(ACID特性)和高可用性的支持。 ZooKeeper提供了一个类似 文件系统的层次结构 ,这个结构类似于一个简化版的文件系统,用于组

    2024年02月03日
    浏览(37)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包