【大数据基础平台】星环TDH社区集群版本部署

这篇具有很好参考价值的文章主要介绍了【大数据基础平台】星环TDH社区集群版本部署。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

🦄 个人主页——🎐开着拖拉机回家_大数据运维-CSDN博客 🎐✨🍁

🪁🍁🪁🍁🪁🍁🪁🍁 🪁🍁🪁🍁🪁🍁🪁 🪁🍁🪁🍁🪁🍁🪁🍁🪁🍁🪁🍁

                   感谢点赞和关注 ,每天进步一点点!加油!

目录

一、概述

二、环境配置

三、安装Manager

四、配置集群

五、安装服务

六、基本配置

6.1 开启安全

6.2 安装TDH客户端

6.3 集群外使用hadoop client

6.3.1 使用hadoop/hdfs

6.3.2 使用hbase shell

6.3.3 beeline访问hive


一、概述


TDH企业级一站式大数据基础平台致力于帮助企业更全面、更便捷、更智能、更安全的加速数字化转型。通过数年时间的打磨创新,已帮助数千家行业客户利用大数据平台构建核心商业系统,加速商业创新。为了让大数据技术得到更广泛的使用与应用从而创造更高的价值,依托于TDH强大的技术底座,星环科技推出TDH社区版(Transwarp Data Hub Community Edition)版本,致力于为企业用户、高校师生、科研机构以及其他专业开发人员提供更轻量、更简单、更易用的数据分析开发环境,轻松应对各类人员数据分析需求。

社区版官网:TDH社区版-TDH Community Edition-星环科技

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

下载

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

官网安装手册:星环社区版安装手册

安装视频:星环社区版安装视频


二、环境配置


配置JDK

yum install  bash-completion  lrzsz  tree  vim  wget  net-tools  -y

mkdir -p  /usr/java
tar -zxvf jdk-8u162-linux-x64.tar.gz -C  /usr/java

vim /etc/profile
export JAVA_HOME=/usr/java/jdk1.8.0_162
export CLASSPATH=$JAVA_HOME/lib/
export PATH=$PATH:$JAVA_HOME/bin

source /etc/profile
java -version

关闭防火墙和 selinux

systemctl stop firewalld
systemctl disable firewalld
systemctl status firewalld
# 临时关闭
setenforce 0
sed -i "s/SELINUX=enforcing/SELINUX=disabled/g" /etc/selinux/config

安装chrony

yum install chrony -y
# 修改chrony配置文件指定NTP源为阿里NTP
sed -r -i 's?^pool.+iburst?pool ntp.aliyun.com iburst?' /etc/chrony.conf
# 重启chrony服务
systemctl restart chronyd
# 开机自动启动chrony服务
systemctl enable chronyd
# 查看时间服务器状态
chronyc sources -v

主机名映射

/etc/hosts

192.168.2.114 tw-manager
192.168.2.115 tdh-node01
192.168.2.116 tdh-node02

磁盘容量

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


三、安装Manager


解压安装包,然后运行Web Installer使用图形化界面安装

tar xvzf TDH-Platform-Community-Transwarp-9.3.1-X86_64-final.tar.gz
cd transwarp-9.3.1-X86_64-final
./install

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

登录如下显示 的web 地址

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

通过浏览器访问管理节点,进入Web Installer界面

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

同意

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

选择继续

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

推荐默认端口“8180” ,下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

安装Manager需要一个包含对应版本操作系统的资源库(repo)

【知识分享】安装Manager时如何配置RPM仓库

centos-7-os-x86_64安装包下载_开源镜像站-阿里云

Index of /centos/7/os/x86_64/

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

您进行选择后,系统会清理资源库缓存:

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


资源库缓存清理完毕后,系统会自动开始安装和配置Transwarp Manager

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

Manager安装完成,可以访问提示的安装地址并使用默认的用户名/密码(admin/admin)去登录管理界面继续接下来的配置。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


四、配置集群


默认账号密码为 admin

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

接受最终用户协议才可以进行进一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

需要给您的集群设置一个名字。输入集群名字后点击“下一步”

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

如果配置集群中的节点可以通过用主机名互相访问,用户必须配置有效的DNS服务器或/etc/hosts文件。否则请选择需要管理工具配置/etc/hosts,Transwarp Manager会相应为您配置/etc/hosts文件,然后添加节点。

  • NTP配置

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

编辑机柜,默认下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

默认下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

选择添加节点

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

添加安装的节点服务器

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

我选择SSH访问权限配置,输入用户名和密码

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

选中已添加的节点,下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

配置完成后,点击“下一步”进行节点最终检查,系统将为您进行检查,如果有检查项出现告警,请点击+号查看具体说明并进行对应项的处理。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

确定

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

系统会开始自动添加节点,添加节点的过程会进行一段时间,成功后您会看到成功页面。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


五、安装服务


服务需要上传单独的tar,选择上传产品,完后上传后 点击下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

点击 上传按键,并在以下弹出窗口中选择产品包的位置(可同时上传多个软件包)

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

上传中

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

选择产品组件安装

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

HDFS,YARN,Zookeeper 添加

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

简单认证模式,下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

下一步

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

确定安装

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

安装中

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

安装完成

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

全局服务

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

集群已安装的组件

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

组件监控

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


六、基本配置


6.1 开启安全


进入全局服务下的Guardian服务详情页,选择一键开启安全

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


 

输入密码

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

完成配置刷新

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

6.2 安装TDH客户端


Manager页面下载客户端,选择“随产品包上传”下载tdh-client。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

选择所有组件 ,确定

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

下载 后上传/opt路径解压

tar -xvf tdh-client.tar

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

完成后即可使用TDH-Client。 使用TDH-Client前还需设置JAVA_HOME环境变量。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

执行脚本,请执行位于目录TDH-Client内的脚本init.sh。

source TDH-Client/init.sh

您可以以任何用户执行该脚本,但是我们建议以root用户身份执行。当以其他用户身份执行时,需要输入root密码。

注意 ,用户必须使用source命令执行该脚本。 当新建一个连接到服务的终端session时,都需要重新执行source init.sh,bash init.sh 和 ./init.sh 都不起作用。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


6.3 集群外使用hadoop client


首先您需要保证JAVA_HOME设置正确。已准备好TDH-Client(TDH-Client文件夹下有init.sh),下方假定TDH-Client存储路径为:/opt

6.3.1 使用hadoop/hdfs

# 查看 principal
klist -kt /opt/TDH-Client/kerberos/hdfs.keytab
# 认证
kinit -kt /opt/TDH-Client/kerberos/hdfs.keytab hdfs@TDH

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

创建文件夹和上传文件测试

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

6.3.2 使用hbase shell


在guardian上下载hbase租户的keytab,假定路径是/tmp/hbase.keytab /opt/TDH-Client/kerberos/hbase.keytab, 如果没有认证直接进入 命令报错如下:

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

klist -kt /opt/TDH-Client/kerberos/hbase.keytab

确认后执行下方命令方可使用.

source /opt/TDH-Client/init.sh
kinit -kt /opt/TDH-Client/kerberos/hbase.keytab hbase@TDH

hbase shel 进入命令行,创建表kangll , put 数据

create 'kangll',{NAME=>'d',VERSIONS => 1,DATA_BLOCK_ENCODING => 'FAST_DIFF',COMPRESSION => 'SNAPPY'},{SPLITS=> ['0','1','2','3','4','5','6','7','8','9','a','b','c','d','e','f']}
alter  'kangll', {NAME => 't',VERSIONS => 1,DATA_BLOCK_ENCODING => 'FAST_DIFF',COMPRESSION => 'SNAPPY'},{SPLITS=> ['0','1','2','3','4','5','6','7','8','9','a','b','c','d','e','f']}

put 'kangll','e312673c87115b12#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','f8a5414345987335#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','ab68b01fb2fb77d9#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','0fbdc950ab7bac48#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','03852b8d2e682a2d#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','36506147bed193c9#20230215#1','t:md','2023-02-23 18:27:07.692'

查询成功

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

6.3.3 beeline访问hive


source /opt/TDH-Client/init.sh
kinit -kt /opt/TDH-Client/kerberos/hive.keytab hive@TDH

通过 Beeline 命令行连接

beeline -u 'jdbc:hive2://192.168.3.115:10000/default;principal=hive/tw-manager@TDH;kuser=hive@TDH;keytab=/opt/TDH-Client/kerberos/hive.keytab;auth=kerberos;krb5conf=/etc/krb5.conf'

创建表时,若没有指定存储格式,默认为TextFile,是不支持插入单行或多行的,我们使用select 的方式插入一条数据 作为测试。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

Guardian添加winner_spark 用户,kerytab文件自动创建,Guardian页面上面给winner_spark 用户授HBase, HDFS的使用权限。

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案

【大数据基础平台】星环TDH社区集群版本部署,大数据运维,大数据底座,大数据平台,国产化,信创,TDH,大数据解决方案


参考文档地址:

星环科技 | TranswarpCloud文章来源地址https://www.toymoban.com/news/detail-742379.html

到了这里,关于【大数据基础平台】星环TDH社区集群版本部署的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 开源大数据集群部署(二)集群基础环境实施准备

    作者:櫰木 本次使用到的二进制软件包目录为:系统初始化前提是操作系统已完成安装、各个主机之间网络互通,系统常用命令已安装,本默认这些前提条件已具备,不在阐述。 安装centos系统完成后需要对主机进行初始化配置和验证工作,在所有主机上(hd1.dtstack.com-hd3)均

    2024年02月03日
    浏览(35)
  • elasticsearch|大数据|elasticsearch低版本集群的部署安装和安全增强---密码设置问题

    elasticsearch的高低版本划分标准为6.3,该版本之前的为低版本,6.3版本之后的包括6.3为高版本,这么划分主要是在安全性方面也就是x-pack插件的使用部署方面,低版本需要手动安装该安全插件,而高版本无需安装。另一方面,高版本的es漏洞会少一些,而本例中使用的是低版本

    2024年02月03日
    浏览(38)
  • 元数据管理平台Datahub0.10.5版本安装部署与导入各种元数据手册

    官网文档连接 DataHub Quickstart Guide | DataHub (datahubproject.io) 本文所选择的Python的版本为3.8.16,Docker版本为20.10.0,Datahub为0.10.5版本 python必须为3.7以上的版本。0.10.5不支持以下的版本 如果要使用web上的 添加数据源  直接调用的python和pip命令 需要把环境变量设置过去。不能用pyth

    2024年02月07日
    浏览(30)
  • 手动部署OpenStack社区Train版本非容器化单机环境操作步骤

    对于OpenStack初学者来说,由于OpenStack涉及的组件众多,直接阅读OpenStack代码较为困难,并且亟需一套OpenStack环境进行实际操作,在实践中学习OpenStack架构及原理。下面将介绍基于CentOS7.6 mini操作系统手动部署OpenStack Train版本环境步骤。 执行yum upgrade命令更新每个节点上的pack

    2023年04月13日
    浏览(26)
  • 大数据技术栈-Hadoop3.3.4-完全分布式集群搭建部署-centos7(完全超详细-小白注释版)虚拟机安装+平台部署

    目录 环境条件: 1、安装虚拟机(已安装好虚拟机的可跳转至  二、安装JDK与Hadoop) (1)直接新建一台虚拟机 (2)首次启用虚拟机,进行安装 一、集群前置环境搭建(三台机器分别设置hostname、网卡(ip)配置、ssh免密登录) 1、查看一下本机与虚拟机的网卡和ip信息 (1)

    2024年02月06日
    浏览(41)
  • 开源元数据管理平台Datahub最新版本0.10.5——安装部署手册(附离线安装包)

    大家好,我是独孤风。 开源元数据管理平台Datahub近期得到了飞速的发展。已经更新到了0.10.5的版本,来咨询我的小伙伴也越来越多,特别是安装过程有很多问题。本文经过和群里大伙伴的共同讨论,总结出安装部署Datahub最新版本的部署手册,希望能帮助到大家。 文章较长,

    2024年02月14日
    浏览(35)
  • 8版本ELK集群部署

    elasticsearch官网地址:Elasticsearch:官方分布式搜索和分析引擎 | Elastic 第一步: 环境配置(每一台都做) 配置主机名、配置IP地址、每台主机配置/etc/hosts名称解析 192.168.11.128 es1 192.168.11.130 es2 192.168.11.138 es3 将Linux系统的软硬限制最大文件数改为65536,将所有用户的最大线程数修

    2024年02月06日
    浏览(28)
  • 部署k8s集群版本升级

            升级k8s,可以升级一个小版本,可以升级一个大版本,但是不能跨版本升级,会有报错提示。建议一个版本一个版本升级 注意kubeadm版本与集群版本一致。本文集群版本v1.20.15升级到v1.21.14. 第一步:查看当前集群集群版本 [root@master ~]# kubectl  get  node 第二步:使节

    2024年02月05日
    浏览(31)
  • Ceph学习 -6.Nautilus版本集群部署

    学习目标:这一节,我们从基础知识、环境规划、小结三个方面来学习。 1.1.1 基础知识 注意事项 简介 版本的选择 1.1.2 环境规划 网络规划 提示 主机规划 主机名规划 主机名 Public/共有网络/前端网络 Cluster/集群网络/后端网络 磁盘 其他角色 admin 192.168.120.20 192.168.8.20 sdb、sdc

    2024年04月15日
    浏览(28)
  • elasticsearch 8.3版本安装和集群部署

    我跟着一些网页教程提示部署我的集群,发现我集群里面的服务器互相看不到,于是咨询了我的老师,加上自己的实验终于成功了。因为之前网上找的参数和我的版本没对上,导致起不来,我这个集群服务器版本是8.3.1 1 开始安装elasticsearch ,导入gpg-key 2 建elasticsearch 的yum仓库

    2023年04月27日
    浏览(42)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包