kafka 3.5.0集群环境部署(使用自带的zookeeper)

这篇具有很好参考价值的文章主要介绍了kafka 3.5.0集群环境部署(使用自带的zookeeper)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

环境和安装包准备:

  • 管理界面包:kafka-manager-1.3.3.7.zip (链接)
  • kafka二进制包:kafka_2.13-3.5.0.tgz (链接)
  • java包:jdk-8u291-linux-x64.tar.gz (链接)
节点IP broker id
10.10.10.10 0
10.10.10.11 1
10.10.10.12 2

安装java:

  • 解压:tar -zxf jdk-8u291-linux-x64.tar.gz
  • 编辑/etc/profile配置文件,文件末尾添加如下配置:
export JAVA_HOME=/usr/java/jdk1.8.0_333 #java解压目录
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib:$CLASSPATH
export JAVA_PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin
export PATH=$PATH:${JAVA_PATH}

  • 让配置生效source /etc/profile
  • 查看是否安装成功:java -version

安装kafka:

  • 解压kafka_2.13-3.5.0.tgz包,编辑config/zookeeper.properties配置文件:
# the directory where the snapshot is stored.
dataDir=/usr/local/kafka/zookeeper/data

#修改为自定义的zookeeper日志目录
dataLogDir=/usr/local/kafka/zookeeper/log

# the port at which the clients will connect
clientPort=2181

#注释掉
#maxClientCnxns=0

#设置连接参数,添加如下配置
#为zk的基本时间单元,毫秒
tickTime=2000
#Leader-Follower初始通信时限 tickTime*10
initLimit=10
#Leader-Follower同步通信时限 tickTime*5
syncLimit=5

#设置broker Id的服务地址
server.0=10.10.10.10:2888:3888
server.1=10.10.10.11:2888:3888
server.2=10.10.10.12:2888:3888

  • 创建好对于目录和文件:
 mkdir /usr/local/kafka/zookeeper/data -p
 mkdir /usr/local/kafka/zookeeper/log -p
 echo "0" > /usr/local/kafka/zookeeper/data/myid # zk集群id
  • 编辑kafka配置文件config/zookeeper.properties,只需修改如下几项配置:
broker.id=0 # 需要修改为集群唯一
listeners=PLAINTEXT://10.10.10.10:2888:9092 # 填节点地址
zookeeper.connect=10.10.10.10:2181,10.10.10.11:2181,10.10.10.12:2181 # 集群节点IP地址

启动服务:

  • 启动zookeeper:

    bin/zookeeper-server-start.sh -daemon config/zookeeper.properties; echo $?
    
  • 启动kafka:

    JMX_PORT=9988 bin/kafka-server-start.sh -daemon config/server.properties; echo $?
    

注意:先把集群所有节点的zookeeper启动起来,再启动kafka

功能验证:

  • 创建3副本主题:
bin/kafka-topics.sh --create --topic perf-test --replication-factor 3 --partitions 3 --bootstrap-server 10.10.10.10:9092
  • 生产消息:
bin/kafka-producer-perf-test.sh --topic perf-test --num-records 1000 --record-size 64 --throughput -1 --producer-props bootstrap.servers=10.10.10.10:9092

kafka 3.5.0集群环境部署(使用自带的zookeeper),kafka,zookeeper,分布式,linux,java,c++

  • 消费消息:
bin/kafka-consumer-perf-test.sh --topic perf-test --bootstrap-server 10.10.10.10:9092 --fetch-size 64 --messages 100000

kafka 3.5.0集群环境部署(使用自带的zookeeper),kafka,zookeeper,分布式,linux,java,c++

配置可视化界面

  • 解压包:kafka-manager-1.3.3.7.zip
  • 修改conf/application.conf配置:
kafka-manager.zkhosts="10.10.10.10:2181,10.10.10.11:2181,10.10.10.12:2181"
#kafka-manager.zkhosts=${?ZK_HOSTS} # 注释掉这行

  • 启动服务:
nohup bin/kafka-manager -Dconfig.file=conf/application.conf -Dhttp.port=9001 & #不加-Dhttp.port,默认9000端口
  • 登录页面,添加集群:

    kafka 3.5.0集群环境部署(使用自带的zookeeper),kafka,zookeeper,分布式,linux,java,c++
    kafka 3.5.0集群环境部署(使用自带的zookeeper),kafka,zookeeper,分布式,linux,java,c++
    kafka 3.5.0集群环境部署(使用自带的zookeeper),kafka,zookeeper,分布式,linux,java,c++文章来源地址https://www.toymoban.com/news/detail-729601.html

到了这里,关于kafka 3.5.0集群环境部署(使用自带的zookeeper)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • linux部署单机kafka(使用kafka自带zookeeper)

    本文使用kafka单节点安装及配置,并使用kafka自带的zookeeper。一般kafka需要起三个kafka构成集群,可以连单独的zookeeper,本文不涉及。 根据需要下载对应版本的安装包,下载地址: https://archive.apache.org/dist/kafka/ 上传安装包并解压重命名(路径自定义): 如:上传到 /opt 路径下

    2024年02月16日
    浏览(34)
  • CentOS7中新版本自带zookeeper搭建Kafka集群

    一、zookeeper在kafka中的具体作用     它是一个分布式协调框架。很好的将消息生产、消息存储、消息消费的过程结合在一起。在典型的Kafka集群中,Kafka通过Zookeeper管理集群控制,选举leader,以及在Consumer Group发生变化时进行rebalance。Producer使用push模式将消息发布到broker,Con

    2024年02月08日
    浏览(75)
  • 分布式应用之zookeeper集群+消息队列Kafka

           ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。为分布式框架提供协调服务的

    2024年02月06日
    浏览(46)
  • 分布式消息流处理平台kafka(一)-kafka单机、集群环境搭建流程及使用入门

    kafka最初是LinkedIn的一个内部基础设施系统。最初开发的起因是,LinkedIn虽然有了数据库和其他系统可以用来存储数据,但是缺乏一个可以帮助处理持续数据流的组件。 所以在设计理念上,开发者不想只是开发一个能够存储数据的系统,如关系数据库、Nosql数据库、搜索引擎等

    2024年02月16日
    浏览(37)
  • 【ELK 使用指南 3】Zookeeper、Kafka集群与Filebeat+Kafka+ELK架构(附部署实例)

    分布式应用管理框架 。 Zookeeper是个开源的,分布式的,为分布式框架提供协调服务的Apach项目。 主要用于解决分布式应用集群中 应用系统的一致性问题 。 作为 文件系统 ,用于注册各种分布式应用, 储存管理分布式应用的元信息 ; 作为 通知机制 ,如果节点或者服务本身的

    2024年02月08日
    浏览(49)
  • ZooKeeper+HBase分布式集群环境搭建

    安装版本:hadoop-2.10.1、zookeeper-3.4.12、hbase-2.3.1 一、zookeeper 集群搭建与配置 1. 下载zookeeper安装包 2. 解压移动zookeeper 3. 修改配置文件(创建文件夹) 4. 进入conf/ 5. 修改zoo.cfg文件 6. 进入/usr/local/zookeeper-3.4.12/zkdatas/这个路径下创建一个文件,文件名为myid ,文件内容为1 7. 拷贝到

    2024年02月08日
    浏览(34)
  • 分布式集群——jdk配置与zookeeper环境搭建

    分布式集群——jdk配置与zookeeper环境搭建 分布式集群——搭建Hadoop环境以及相关的Hadoop介绍 文章目录 系列文章目录 前言 一 zookeeper介绍与环境配置 1.1 zookeeper的学习 1.2 Zookeeper的主要功能 1.2.1 znode的节点类型 1.2.2 zookeeper的实现 1.3 Zookeeper的特征 zookeeper的几种角色? 1.4 关于

    2024年02月10日
    浏览(36)
  • ansible部署zookeeper和kafka集群

    节点 IP ansible 192.168.200.75 node1 192.168.200.76 node2 192.168.200.77 node3 192.168.200.78 基础环境配置就不过多赘述了 主机名、主机解析、免密访问、ansible下载、配置ansible主机、防火墙、selinux、配置centos2009镜像、配置ftp远程。均已配置 在ansible节点的/root目录下创建example目录,作为Ansib

    2024年02月09日
    浏览(34)
  • docker容器单机部署zookeeper+kafka集群

    KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181 其中zookeeper会转化成zookeeper的ip kafka1: 10.21.214.66 其中10.21.214.66 填写宿主机ip

    2024年02月19日
    浏览(31)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包