【大数据基础平台】星环TDH社区开发版单机部署

这篇具有很好参考价值的文章主要介绍了【大数据基础平台】星环TDH社区开发版单机部署。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

🍁 博主 "开着拖拉机回家"带您 Go to New World.✨🍁

🦄 个人主页——🎐开着拖拉机回家_大数据运维-CSDN博客 🎐✨🍁

🪁🍁🪁🍁🪁🍁🪁🍁 🪁🍁🪁🍁🪁🍁🪁 🪁🍁🪁🍁🪁🍁🪁🍁🪁🍁🪁🍁

感谢点赞和关注 ,每天进步一点点!加油!

目录

🍁 博主 "开着拖拉机回家"带您 Go to New World.✨🍁

一、概述

二、安装TDH-CE-DEV

2.1 环境准备

2.2 安装TDH社区开发版

2.3 自助申请许可证

三、基本配置

3.1 开启安全

3.2 Hyperbase设置

3.3 安装TDH客户端

3.4 集群外使用hadoop client

3.4.1 使用zookeeper-client

3.4.2 使用hadoop/hdfs

3.4.3 使用hbase shell


一、概述


TDH企业级一站式大数据基础平台致力于帮助企业更全面、更便捷、更智能、更安全的加速数字化转型。通过数年时间的打磨创新,已帮助数千家行业客户利用大数据平台构建核心商业系统,加速商业创新。为了让大数据技术得到更广泛的使用与应用从而创造更高的价值,依托于TDH强大的技术底座,星环科技推出TDH社区版(Transwarp Data Hub Community Edition)版本,致力于为企业用户、高校师生、科研机构以及其他专业开发人员提供更轻量、更简单、更易用的数据分析开发环境,轻松应对各类人员数据分析需求。

社区版官网:TDH社区版-TDH Community Edition-星环科技

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创


二、安装TDH-CE-DEV


2.1 环境准备


主机名和映射配置

cat  /etc/hosts
192.168.2.117 devops

 hostnamectl set-hostname devops

关闭防火墙或者配置端口

systemctl stop  firewalld.service
systemctl disable  firewalld.service

安装docker ,需有网且配置好 repo 源,或者离线安装

yum install docker
systemctl start docker.service
systemctl status docker.service
systemctl enable docker.service

docker 启动完成

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

2.2 安装TDH社区开发版


官网地址:TDH社区版-TDH Community Edition-星环科技

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

下载的单机安装包:TDH-Standalone-Community-Transwarp-9.3.1-X86_64-final.tar.gz

解压并且加载镜像

[root@tdh-node01 yum.repos.d]# cd /opt/
[root@tdh-node01 opt]# ll
total 12045828
drwx--x--x. 4 root root       4096 Oct 24 11:14 containerd
-rw-------. 1 root root 7104777216 Jun  7 21:31 tdh-standalone-2023.5.tar
-rw-r--r--. 1 root root 5230133572 Oct 24 09:32 TDH-Standalone-Community-Transwarp-9.3.1-X86_64-final.tar.gz
[root@tdh-node01 opt]#
[root@tdh-node01 opt]#
[root@tdh-node01 opt]#
[root@tdh-node01 opt]# docker load  -i  tdh-standalone-2023.5.tar
74ddd0ec08fa: Loading layer [==================================================>]  238.6MB/238.6MB
e74f7e968b61: Loading layer [==================================================>]  6.866GB/6.866GB
Loaded image: tdh-standalone:2023.5
[root@tdh-node01 opt]#
[root@tdh-node01 opt]# docker images
REPOSITORY       TAG       IMAGE ID       CREATED        SIZE
tdh-standalone   2023.5    296d67572acb   4 months ago   7.08GB

镜像加载完成

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

执行下方指令启动容器并运行镜像

docker run -d --network host -v /home/tdh:/opt/transwarp --privileged tdh-standalone:2023.5
docker ps -a 
docker logs -f  xxx

容器启动后需等待30s至2分钟

浏览器访问管理节点8180端口, 默认用户名和密码都是admin

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

接受

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

集群名称

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

默认的单节点主机信息

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

确认 下一步

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

安全组件密码设置

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

服务总览

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

下一步确定 安装

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

安装中

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

安装完成

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

2.3 自助申请许可证


登录星环云网站:https://cloud.transwarp.cn/home

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

编辑组织信息

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

申请许可证

回到TDH Manager,输入账号进行“许可证申请”。

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

完成申请

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

安装完成

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创


三、基本配置


3.1 开启安全


进入全局服务下的Guardian服务详情页,选择一键开启安全

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创


输入密码

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

完成配置刷新

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

3.2 Hyperbase设置


使用hyperbase前需要进行依赖配置,如果开启安全还需要进行赋权操作。

安装结束后进入Quark服务详情页,更新quark依赖关系;

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

选择HypeHbase1

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

点击配置服务,配置完成后进行重启服务

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

确定快速重启

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

如果开启安全,需要进入guardian server页面,为hive用户赋予hyperbase权限。

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

点击Guardian服务详情页,进入Guardian Server权限页面进行编辑;

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

登录

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

进入权限配置页面

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

选择权限 Hypebase1

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

编辑

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

“+” 新增

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

保存

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

3.3 安装TDH客户端


Manager为用户提供了两种下载tdh-client的方式,其中选择manager自带tdh-client下载可能会比较慢,本章节将介绍如何进行快速下载。

Manager页面下载客户端,选择“随产品包上传”下载tdh-client。

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

选择所有组件 ,确定

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

下载 后上传/opt路径解压如下:

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

拷贝容器内的bundled_tdh_client目录到本地。此处假设客户端解压到了目录/opt下,命令为:

[root@devops opt]# docker ps -a 
CONTAINER ID   IMAGE                   COMMAND              CREATED       STATUS       PORTS     NAMES
1d5c56eca76d   tdh-standalone:2023.5   "/usr/bin/boot.sh"   2 hours ago   Up 2 hours             laughing_perlman
[root@devops opt]# 
[root@devops opt]# docker cp  1d5c56eca76d:/var/lib/transwarp-manager/master/content/resources/bundled_tdh_client .
[root@devops opt]# ls
ansible  bundled_tdh_client  containerd  py  TDH-Client  tdh-client.tar
[root@devops opt]# 
[root@devops opt]# ls bundled_tdh_client/
hadoop  hyperbase  inceptor  init.sh  kafka  redis  sqoop  zookeeper

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

复制bundled_tdh_client目录下的内容到解压后的TDH-Client目录下。

[root@devops opt]#  cp  -nr bundled_tdh_client/*   TDH-Client/

完成后即可使用TDH-Client。 使用TDH-Client前还需设置JAVA_HOME环境变量。

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创


3.4 集群外使用hadoop client


首先您需要保证JAVA_HOME设置正确。已准备好TDH-Client(TDH-Client文件夹下有init.sh),下方假定TDH-Client存储路径为:/opt

3.4.1 使用zookeeper-client

在guardian上下载zookeeper租户的keytab,假定路径是/opt/TDH-Client/kerberos/zookeeper.keytab

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

将常用的几个 keytab文件下载 放到/opt/TDH-Client/kerberos 路径下

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

执行

export ZOOKEEPER_KEYTAB=/opt/TDH-Client/kerberos/zookeeper.keytab
source /opt/TDH-Client/init.sh

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

3.4.2 使用hadoop/hdfs

# 查看 principal
klist -kt /opt/TDH-Client/kerberos/hdfs.keytab
# 认证
kinit -kt /opt/TDH-Client/kerberos/hdfs.keytab hdfs@TDH

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

创建文件夹和上传文件测试

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

3.4.3 使用hbase shell


在guardian上下载hbase租户的keytab,假定路径是/tmp/hbase.keytab /opt/TDH-Client/kerberos/hbase.keytab, 如果没有认证直接进入 命令报错如下:

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创

klist -kt /opt/TDH-Client/kerberos/hbase.keytab

确认后执行下方命令方可使用.

export HYPERBASE_KEYTAB=/opt/TDH-Client/kerberos/hbase.keytab
source /opt/TDH-Client/init.sh
kinit -kt /opt/TDH-Client/kerberos/hbase.keytab hbase@TDH

hbase shel 进入命令行,创建表kangll , put 数据

create 'kangll',{NAME=>'d',VERSIONS => 1,DATA_BLOCK_ENCODING => 'FAST_DIFF',COMPRESSION => 'SNAPPY'},{SPLITS=> ['0','1','2','3','4','5','6','7','8','9','a','b','c','d','e','f']}
alter  'kangll', {NAME => 't',VERSIONS => 1,DATA_BLOCK_ENCODING => 'FAST_DIFF',COMPRESSION => 'SNAPPY'},{SPLITS=> ['0','1','2','3','4','5','6','7','8','9','a','b','c','d','e','f']}

put 'kangll','e312673c87115b12#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','f8a5414345987335#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','ab68b01fb2fb77d9#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','0fbdc950ab7bac48#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','03852b8d2e682a2d#20230215#1','t:md','2023-02-23 18:27:07.692'
put 'kangll','36506147bed193c9#20230215#1','t:md','2023-02-23 18:27:07.692'

查询成功

【大数据基础平台】星环TDH社区开发版单机部署,大数据运维,大数据,HDP,TDH,星环TDH,集群,信创


参考文档地址:

https://docs.transwarp.cn/#/documents-support/docs-detail/document/CE-PLATFORM/23-5/003TDH-CE-DEV-InstallManual?docType=docs%3Fcategory%3DTDH%26index%3D0&docName=%E7%A4%BE%E5%8C%BA%E5%BC%80%E5%8F%91%E7%89%88%E5%AE%89%E8%A3%85%E6%89%8B%E5%86%8C文章来源地址https://www.toymoban.com/news/detail-735699.html

到了这里,关于【大数据基础平台】星环TDH社区开发版单机部署的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 计算机毕设之基于数据可视化的智慧社区内网平台python+django+mysql(含开题+源码+部署教程)

    系统阐述的是一款基于数据可视化的智慧社区内网平台的设计与实现,对于Python、B/S结构、MySql进行了较为深入的学习与应用。主要针对系统的设计,描述,实现和分析与测试方面来表明开发的过程。开发中使用了 django框架和MySql数据库技术搭建系统的整体架构。利用这些技

    2024年02月10日
    浏览(48)
  • mysql基础4——单机多实例部署

    前提了解: 适用于服务器不够,但需要把业务区分开的情况下,可以部署此方式。比如多个业务平台使用的数据库不同,不能只创建一个数据库,这时候就需要部署多实例。 实际情况中能避免此方式就避免,因为没有高可用,出现问题所有业务数据都会出现问题,一般采用

    2024年02月11日
    浏览(39)
  • 单机部署Kafka和开启SASL认证以及基础命令使用

    ​ 操作系统:linux kafka:kafka_2.13-3.3.2 zookeeper:apache-zookeeper-3.7.1-bin 1.下载zookeeper和kafka安装包 2.解压 3.修改zookeeper配置文件并启动 修改zoo.cfg文件,增加以下命令 创建zk_server_jaas.conf文件(开启kafka sasl认证使用),文件内容 此外,认证过程需要导入kafka的依赖类,在下载的kafka

    2024年01月18日
    浏览(55)
  • 实用的开源应用全新开源源码Vue3+TS的前后台分离的开发平台源码开源技术社区平台

    开源全新开源源码Vue3+TS的前后台分离的开发平台源码。创意、新奇、有趣、实用的开源应用、系统、软件、硬件及技术,一个探索、发现、分享、使用与互动交流的开源技术社区平台。致力于打造活力开源社区,共建开源新生态! 功能简介 个人办公:待办事项、抄送传阅、

    2024年02月13日
    浏览(57)
  • Java开发工具 IDEA(社区免费版)安装部署教程

    国内高速下载: 链接: https://pan.baidu.com/s/1Ioq_BLdyBxSuv4HtUURAQw?pwd=e1vc 提取码: e1vc 复制这段内容后打开百度网盘手机App,操作更方便哦  --来自百度网盘超级会员v1的分享 IDEA官网地址:https://www.jetbrains.com/idea/download/#section=windows 下载社区版后,点击安装,就进行傻瓜式的安装了。

    2024年04月12日
    浏览(78)
  • 分享一个python基于数据可视化的智慧社区服务平台源码

    💕💕 作者:计算机源码社 💕💕 个人简介:本人七年开发经验,擅长Java、Python、PHP、.NET、Node.js、微信小程序、爬虫、大数据等,大家有这一块的问题可以一起交流! 💕💕 学习资料、程序开发、技术解答、文档报告 💕💕JavaWeb项目 💕💕微信小程序项目 💕💕Python项目

    2024年02月09日
    浏览(43)
  • 项目1在线交流平台-6.Elasticsearch分布式搜索引擎-3.ES结合Kafka应用-开发社区搜索功能

    参考牛客网高级项目教程 狂神说Elasticsearch教程笔记 尚硅谷Elasticsearch教程笔记 1.在业务层处理好搜索帖子的服务 包括保存帖子到ES服务器 从服务器中删除帖子 从服务器中查询帖子 2.发布事件 在controller层,结合kafka,发布帖子、增加评论时,数据放入消息队列 异步消费消息

    2024年02月02日
    浏览(51)
  • ModaHub魔搭社区:向量数据库Milvus部署运维问题教程(一)

    目录 部署运维问题 如果在安装 Milvus 时,从 Docker Hub 拉取镜像总是失败怎么办? Milvus 只能使用 Docker 部署吗? 为什么 Milvus 返回 config check error 的错误? 为什么在导入数据时 Milvus 显示 no space left on device 的错误? 为什么 Milvus 查询召回率一直不理想? 为什么更新过的设置没

    2024年02月12日
    浏览(42)
  • 计算机毕业设计springboot智慧社区管理系统jcmah9【附源码+数据库+部署+LW】

    本项目包含程序+源码+数据库+LW+调试部署环境,文末可获取一份本项目的java源码和数据库参考。 系统的选题背景和意义 智慧社区管理系统是一种基于信息技术和物联网技术的综合应用系统,旨在提升社区管理效率、改善居民生活质量。随着城市化进程的加快,社区规模不断

    2024年01月20日
    浏览(42)
  • K8S单机部署-01.单机部署K8S

    转载请注明出处 K8S单机部署-00.旧版本卸载 K8S单机部署-01.单机部署K8S K8S单机部署-02.Kuboard面板部署 K8S单机部署-03.验证K8S的第一个Deployment K8S单机部署-04.NFS服务器搭建 K8S单机部署-05.静态持久化之PV、PVC(基于NFS) K8S单机部署-06.动态持久化StorageClass(基于NFS) K8S单机部署-07.调整

    2024年04月24日
    浏览(36)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包