使用docker快速搭建hive环境

这篇具有很好参考价值的文章主要介绍了使用docker快速搭建hive环境。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

hostnamectl set-hostname hive-master

写在前面
想练练Hive SQL,但是没有hive shell环境。现在只有一台空的CentOS 7机子,一想要弄jdk、hadoop、mysql、hive就头疼。

于是在网上找了找,发现用docker部署hive会快很多,在此记录一下部署过程。

以下过程每一步在文末都附有参考文档,出错的朋友可以去看对应的参考文档。

步骤
安装docker
安装git,配置github。因为用的是github上大佬写好的docker compose服务,所以要git clone下来。
部署hive
使用hive命令行
收尾工作

一、安装docker

要用到docker和docker-compose,我们依次来安装

安装docker
如果你之前安装过 docker,请先删掉

yum remove docker docker-common docker-selinux docker-engine
1
安装一些依赖

yum install -y yum-utils device-mapper-persistent-data lvm2
1
拉取docker-ce.repo

wget -O /etc/yum.repos.d/docker-ce.repo https://download.docker.com/linux/centos/docker-ce.repo
1
把软件仓库地址替换为 TUNA:

sed -i 's+download.docker.com+mirrors.tuna.tsinghua.edu.cn/docker-ce+' /etc/yum.repos.d/docker-ce.repo
1
最后安装(默认安装的是最新版docker):

yum makecache fast
yum install docker-ce

启动docker,设为开机自启,查看docker版本

systemctl start docker
systemctl enable  docker
docker version

至此,不报错的话,docker就安装好了

  • 安装Docker Compose

    curl -L "https://github.com/docker/compose/releases/download/1.26.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
    
    
    chmod +x /usr/local/bin/docker-compose
    
    
    ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
    
    
    docker-compose --version
    配置docker国内镜像源(可选)https://www.cnblogs.com/reasonzzy/p/11127359.html

    我在后面pull docker镜像时,速度很慢,所以又配了一下国内镜像加速源,可配可不配。

    
    # 添加Docker阿里云镜像仓库
    cat > /etc/docker/daemon.json << EOF
    {
    "registry-mirrors": ["https://xigtegnc.mirror.aliyuncs.com"]
    }
    EOF

    部署Hive
    准备工作都做完了,可以开始部署Hive了。

    docker-hive
    用的是大佬写好的docker-hive。

    开始部署

    依次执行以下命令

    git clone git@github.com:big-data-europe/docker-hive.git
    
    # 注:本文所有docker-compose都是在docker-hive目录下执行的
    cd docker-hive
    
    # 这步在后台起一个hive,元数据库用的是postgresql
    # 会费一点时间,需要耐心等待
    docker-compose up -d
    
    

    等上面命令运行完成后,可以执行docker-compose ps命令查看正在运行的镜像。

    下图是我运行这个命令的截图:

    使用docker快速搭建hive环境,云原生,hive

    可以看到有namenode、datanode、hive等,表示部署成功了。

    使用Hive命令行

    依次执行以下步骤

    使用docker快速搭建hive环境,云原生,hive

    查询结果:

    使用docker快速搭建hive环境,云原生,hive

    二、配置Docker编排工具docker-compose (最重要)

1,下载Docker-compose 下载Docker-Compose(下载完毕就是一个文件docker-compose-Linux-x86_64) 下载完成后将 docker-compose-Linux-x86_64 文件复制到Linux系统的root目录下,执行以下指令

下载链接传送门:

链接:https://pan.baidu.com/s/124vfP_N1kzBeiDAnITWHYg
提取码:xzq9
 

2,重命名、修改权限

mv docker-compose-Linux-x86_64 docker-compose

chmod 777 docker-compose

3,将docker-compose文件移动到$PATH中

echo $PATH

查看系统变量存放路径
 

mv docker-compose /usr/bin/

4,在任意位置输入docker-compose

这是最后一步,如下图所示,则配置成功!!!

使用docker快速搭建hive环境,云原生,hive

docker-compose的使用

 docker-compose常用命令

后续就可以通过docker-compose.yml文本管理容器信息
通过docker-compose up -d 启动容器
通过docker-compose down 停止并删除容器
通过docker-compose logs -f 标识 查看容器启动日志
通过docker-compose start/stop/rm/restart/up/down来启动容器/关闭容器/删除已经关闭的容器/重启容器/基于yml创建容器/停止并删除容器

使用docker快速搭建hive环境,云原生,hive 遇到报错重启docker

使用docker快速搭建hive环境,云原生,hive文章来源地址https://www.toymoban.com/news/detail-813482.html

到了这里,关于使用docker快速搭建hive环境的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【云原生 • Docker】docker 环境搭建、docker 与容器常用指令大全

    目录 一、Docker 环境搭建 1. 准备工作(已有 Linux 环境可省略) 2. 安装 Docker 3. 设置 ustc 镜像 二、Docker/容器操作命令汇总 1. Docker 操作命令 2. 镜像相关命令 3. 查看容器 4. 创建容器 5. 停止与启动容器 6. 文件挂载 7. 目录挂载 8. 查看容器 IP 地址 9. 删除容器 1. 准备工作(已有

    2024年01月16日
    浏览(65)
  • docker快速搭建环境

    2024年02月13日
    浏览(30)
  • 使用docker-compose.yml快速搭建开发、部署环境(nginx、tomcat、mysql、jar包、各种程序)以及多容器通信和统一配置

    image 镜像名称,可去镜像市场查找自己需要的 hostname 容器内服务名 container_name 容器名 volumes 可以把自己电脑的路径映射到容器中的文件夹中 networks 写同一个网络可以让容器之间进行通信 启动 在项目根目录的命令行中输入 docker-compose up 停止 在项目根目录的命令行中输入 d

    2024年02月12日
    浏览(52)
  • 不外传秘诀| docker 快速搭建常用的服务环境

    本文主要给大家介绍如何使用 docker 搭建常用的服务环境, 包括mysql,reedis,nginx,jenkins 等常用的环境,下面直接进入主题。 1、MySQL 部署 ①搜索 MySQL 镜像 ②拉取 MySQL 镜像 ③创建容器,设置端口映射,目录映射 ●在宿主机中创建一个 MySQL 目录,用来存储数据库信息  ●启动容

    2024年02月16日
    浏览(38)
  • 如何利用Docker快速搭建一个支持java程序运行的环境(Ubuntu环境下)

    简单来说,docker是一种类似于虚拟机的虚拟技术。 但它们的不同之处在于,虚拟机占用了完全独立的内存,cpu,硬盘等资源,而docker只提供了完全独立的进程,而与其它进程公用计算机处理资源,在某种意义上来说,docker以更简单方便的方法实现了类似于虚拟机的体验效果,

    2024年02月01日
    浏览(50)
  • docker快速部署oracle19c、oracle12c,测试环境问题复现demo快速搭建笔记

    (复制sql,替换表名执行完毕后,再修改自己想要的字段即可) (复制sql,替换自己的表名) 一个oracle表示一个实例,一个实例可以配置多个服务,独立维护的oracle服务 一个服务内可以有多个表空间,默认表空间就有很多,比如常见的SYSTEM、TEMP、USERS 常见的默认角色: 1、

    2024年02月04日
    浏览(60)
  • golang—kafka架构原理快速入门以及自测环境搭建(docker单节点部署)

    Apache Kafka 是一个分布式的流处理平台。它具有以下特点: 支持消息的发布和订阅,类似于 RabbtMQ、ActiveMQ 等消息队列 支持数据实时处理 能保证消息的可靠性投递 支持消息的持久化存储,并通过多副本分布式的存储方案来保证消息的容错 高吞吐率,单 Broker 可以轻松处理数千

    2024年02月04日
    浏览(52)
  • win10中 hyper-v 中搭建 docker 快速搭建一个thinkphp6 的项目 swoole 环境 websocket 示例代码

    1. 先安装docker  和docker-composer    1.1安装docker 直接使用快捷一键安装   1.2等待一分钟docker安装完成启动docker     1.3 测试docker 安装 和镜像加速    直接参考文章安装和调试  CentOS 安装 Docker | Docker 从入门到实践 2.安装php 运行环境   2.1   选用最简单 的拥有 php-fpm 和 ngin

    2024年02月05日
    浏览(51)
  • 使用Docker快速搭建基础服务

    编辑broker.conf,并设置brokerIP1 上述方法需要我们单独对每一个服务进行启动,当基础服务多的时候,非常不方便,所以可以采用Docker-Compose的方式一键启动,以下是相关步骤 1.docker-compose手动安装 在这个目录下载docker-compose-Linux-x86_64: https://github.com/docker/compose/releases/tag/1.25.5

    2024年02月07日
    浏览(36)
  • 【云原生】详细学习Docker-Swarm部署搭建和基本使用

      个人主页: 征服bug-CSDN博客 kubernetes专栏: 云原生_征服bug的博客-CSDN博客 目录 Docker-Swarm编排 1.概述 2.docker swarm优点 3.节点类型 4.服务和任务 5.路由网格 6.实践Docker swarm         Docker Swarm 是 Docker 的集群管理工具。它将 Docker 主机池转变为单个虚拟 Docker 主机,使得容器

    2024年02月13日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包