开源大数据集群部署(一)集群实施规划

这篇具有很好参考价值的文章主要介绍了开源大数据集群部署(一)集群实施规划。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

作者:櫰木

本次集群规划信息

本次实际生产业务体量存在巨大差异,但集群规划内容相同,因此建议实际生产环境按照按照一定比例扩展即可。

主机操作系统要求

软件信息 参数
配置 8C16G
操作系统版本 CentOS Linux release 7.8.2003 (Core)
java版本 java version "1.8.0_281"
hadoop版本 hadoop 3.2.4

集群版本规划

集群组建 版本
HDFS 3.2.4
YARN 3.2.4
MapReduce2 3.2.4
Hive 3.1.2
HBase 2.1.0
ZooKeeper 3.7.1
Trino 389

主机角色规划

服务器 IP 角色
hd1.dtstack.com(管理节点) 172.16.104.226 namenode/resourcemanager/journalnode/zkfc//hive_metastore/hiveserver2
hd2.dtstack.com(管理节点) 172.16.106.252 namenode/resourcemanager/journalnode/zkfc/hamster/ranger
hd3.dtstack.com(数据节点) 172.16.107.127 datanode/nodemanager/journalnode/
hd1.dtstack.com(kerberos节点) 172.16.106.165 freeipaserver

配置目录规划

所有安装包目录为/opt/hadoop 类似文章来源地址https://www.toymoban.com/news/detail-778415.html

组件 目录名称 目录
HADOOP hadoop datanode目录 /data/hadoop/dfs/data
hadoop namenode目录 /data/hadoop/dfs/name
hadoop临时目录 /data/hadoop/tmp
ZOOKEEPER zookeeper数据目录 /data/zookeeper/data/
zookeeper日志目录 /data/zookeeper/log/

组件系统用户规划

组件 启动用户 所属组
hdfs(namenode/datanode/zkfc/journalnode) hdfs hadoop
yarn(reourcemanager/nodemanager/) yarn hadoop
zookeeper zookeeper zookeeper
hive hive hadoop
hbase hbase hadoop
mysql mysql mysql
ranger ranger ranger
grafana grafana grafana
prometheus prometheus prometheus
trino trino hadoop

到了这里,关于开源大数据集群部署(一)集群实施规划的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 开源大数据集群部署(十四)Ranger集成Hbase

    作者:櫰木 在hd1.dtstack.com主机上执行 在hmaster和back master上进行安装和执行 解压ranger-2.3.0-hbase-plugin 配置ranger hbase插件的install.properties 初始化ranger hbase 重启hbase服务 Ranger admin页面配置hbase 访问地址:http://hd1.dtstack.com:6080/ 用户密码:admin/rangerAdmin123 测试连通性,连接成功后保

    2024年03月21日
    浏览(42)
  • 开源大数据集群部署(五)Freeipa客户端部署及配置(kerberos+ldap)

    作者:櫰木 在FreeIPA(Free Identity, Policy, and Audit)环境中,部署和配置客户端节点是连接整个系统的关键步骤。本文将介绍如何在客户端节点上安装和配置FreeIPA客户端,包括安装IPA-Client、执行ipa-client-install等关键步骤。同时,由于部署过程中可能出现一些常见的问题,我们还

    2024年01月20日
    浏览(56)
  • 大数据开源框架环境搭建(七)——Spark完全分布式集群的安装部署

    前言:七八九用于Spark的编程实验 大数据开源框架之基于Spark的气象数据处理与分析_木子一个Lee的博客-CSDN博客_spark舆情分析 目录 实验环境: 实验步骤: 一、解压 二、配置环境变量:  三、修改配置文件  1.修改spark-env.sh配置文件: 2.修改配置文件slaves: 3.分发配置文件:

    2024年02月11日
    浏览(49)
  • 大数据开源框架环境搭建(五)——Hbase完全分布式集群的安装部署

    目录 实验环境: 实验步骤: 〇、Zookeeper安装配置: 一、安装前注意事项 二、HBase安装  三、Hbase集群配置 1.配置hbase-env.sh文件,位于Hbase安装目录/conf/ 2.配置hbase-site.xml文件,位于Hbase安装目录/conf/ 3.配置regionservers 4.新建 backup-masters文件,添加备份HMaster机器名 四、将配置好

    2024年02月08日
    浏览(43)
  • 大数据开源框架环境搭建(四)——HDFS完全分布式集群的安装部署

    前言:本实验的所有路径均为本人计算机路径,有些路径需要看自己的,跟着我的一起做最好。普通用户下大部分命令需要加sudo,root模式下不用。如果怕麻烦,直接在root用户下操作。 目录 实验环境: 实验步骤: 一、配置NAT网络 ,分配静态IP地址 1.打开VMware,选择编辑,

    2024年02月05日
    浏览(53)
  • 基于Ubuntu22.04部署生产级K8S集群v1.27(规划和核心组件部署篇)

    本文档主要根据k8s官网文档和其插件的官网文档,参考部分他人优秀经验,在实际操作中逐渐完成,比较详尽,适合在境内学习者和实践者参考。 实操环境基于VMware Workstation 17 pro,采用ubuntu22.04操作系统(有时也提到rhel系列系统),采用kubeadm1.27.4(部分地方提到了1.28)部署

    2024年02月02日
    浏览(56)
  • 大数据平台搭建及集群规划

    CDH大数据平台搭建之集群规划_码上_成功的博客-CSDN博客_cdh集群规划 大数据Hadoop分布式集群部署(详细版)_arnoldmp的博客-CSDN博客_分布式集群部署 大数据平台的硬件规划、网络调优、架构设计、节点规划 【全网独家】大数据集群节点与硬件规划_大数据研习社的博客-CSDN博客

    2023年04月22日
    浏览(20)
  • 网站建设与运营的成功策略:从规划到实施

    导言: 在当今数字化时代,一个优质的网站不仅是企业形象的窗口,也是与客户互动、传递信息的重要渠道。本文将介绍一套成功的网站建设与运营策略,从规划阶段到实施和持续优化,助您在激烈的在线竞争中脱颖而出。 一、网站建设的关键步骤 目标设定: 确定网站的主

    2024年02月12日
    浏览(69)
  • Kafka单机到集群- 自动化- SSL以及全部配置文件 作者精选

    本文实现kafka集群的配置和启动过程。并将脚本自动化,使得通用性、独立性更强。 用途 参考资料 kafka官方文档:包含安装部署、配置项、api使用等详细信息 附件: Kafka并不难学!:入门、进阶、商业实战 (邓杰) :包含kafka入门和linux快捷操作等系统化认识的内容。 名词 文

    2024年04月13日
    浏览(48)
  • 【大数据】Doris 的集群规划和环境准备

    Doris 作为一款开源的 MPP 架构 OLAP 数据库,能够运行在绝大多数主流的商用服务器上。为了能够充分运用 MPP 架构的并发优势,以及 Doris 的高可用特性,我们建议 Doris 的部署遵循以下需求。 Linux 系统 版本 CentOS 7.1 7.1 7.1 及以上 Ubuntu 16.04 16.04 16.04 及以上 操作系统安装要求 ✅

    2024年02月03日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包