Zookeeper和Kafka安装

这篇具有很好参考价值的文章主要介绍了Zookeeper和Kafka安装。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Zookeeper和Kafka安装

1、Windows下的安装

1.1 安装JAVA JDK

请参考《Windows环境下JDK的安装》

JDK版本:

Zookeeper和Kafka安装,kafka,kafka

1.2 安装ZooKeeper

1、 下载安装包

http://zookeeper.apache.org/releases.html#download

这里下载的版本为3.4.9

2、 解压并进入ZooKeeper目录:

Zookeeper和Kafka安装,kafka,kafka

3、进入C:\zsxsoftware\zookeeper-3.4.9\conf, 将zoo_sample.cfg复制并且重命名为zoo.cfg

Zookeeper和Kafka安装,kafka,kafka

4、 打开zoo.cfg找到并编辑dataDir=C:\\zsxsoftware\\zookeeper-3.4.9\\data(必须以\\分割)

Zookeeper和Kafka安装,kafka,kafka

5、 添加系统变量:ZOOKEEPER_HOME=C:\zsxsoftware\zookeeper-3.4.9

Zookeeper和Kafka安装,kafka,kafka

6、 编辑path系统变量,添加路径:%ZOOKEEPER_HOME%\bin

Zookeeper和Kafka安装,kafka,kafka

7、 在zoo.cfg文件中修改默认的Zookeeper端口(默认端口2181

Zookeeper和Kafka安装,kafka,kafka

8、 打开新的cmd,输入zkServer,运行Zookeeper

Zookeeper和Kafka安装,kafka,kafka

9、 命令行提示如下:说明本地Zookeeper启动成功

Zookeeper和Kafka安装,kafka,kafka

注意:不要关了这个窗口。

zookeeper启动无法找到主类:使用zookeeper3.5.x的版本会出现你描述的问题,把版本还为3.4.x后可以解决

该问题。

1.3 安装Kafka

1、 下载安装包

http://kafka.apache.org/downloads

注意要下载二进制版本,这里下载的版本为2.12-0.11.0.0

2、 解压并进入Kafka目录

Zookeeper和Kafka安装,kafka,kafka

3、 进入config目录找到文件server.properties并打开

Zookeeper和Kafka安装,kafka,kafka

4、 找到并编辑log.dirs=C:\\zsxsoftware\\kafka_2.12-0.11.0.0\\logs

Zookeeper和Kafka安装,kafka,kafka

5、 找到并编辑zookeeper.connect=localhost:2181

Zookeeper和Kafka安装,kafka,kafka

6、 Kafka会按照默认,在9092端口上运行,并连接zookeeper的默认端口:2181

7、 进入Kafka安装目录C:\zsxsoftware\kafka_2.12-0.11.0.0,打开命令行,输入:

.\bin\windows\kafka-server-start.bat .\config\server.properties

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka

注意:不要关了这个窗口,启用Kafka前请确保ZooKeeper实例已经准备好并开始运行。

1.4 测试

1、 创建主题,进入Kafka安装目录C:\zsxsoftware\kafka_2.12-0.11.0.0,打开命令行,输入:

.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

Zookeeper和Kafka安装,kafka,kafka

2、查看主题输入:

.\bin\windows\kafka-topics.bat --list --zookeeper localhost:2181

Zookeeper和Kafka安装,kafka,kafka

3、 创建生产者,进入Kafka安装目录C:\zsxsoftware\kafka_2.12-0.11.0.0,打开命令行,输入:

.\bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test

Zookeeper和Kafka安装,kafka,kafka

输入hello,回车。

Zookeeper和Kafka安装,kafka,kafka

注意:不要关了这个窗口

4、 创建消费者,进入Kafka安装目录C:\zsxsoftware\kafka_2.12-0.11.0.0,打开命令行,输入:

.\bin\windows\kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test --from-beginning

Zookeeper和Kafka安装,kafka,kafka

此时,往生产者窗口写入消息,消费者窗口也能同步的接收到消息

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka

5、查看topic,进入Kafka安装目录C:\zsxsoftware\kafka_2.12-0.11.0.0,打开命令行,输入:

.\bin\windows\kafka-topics.bat --describe --zookeeper localhost:2181 --topic test

Zookeeper和Kafka安装,kafka,kafka

1.5 操作日志的处理

kafka启动后,如果你去查看kafka所在的根目录,或者是kafka本身的目录,会发现已经默认生成一堆操作日志,

而且会不断生成不同时间戳的操作日志。

Zookeeper和Kafka安装,kafka,kafka

一番研究后,看了启动的脚本内容,发现启动的时候是会默认使用到这个log4j.properties文件中的配置,而

zoo.cfg是不会看到本身的启动会调用到这个,还以为只有那一个日志路径。在这里配置一下就可以了,找到

config下的log4j.properties,将路径更改下即可,这样就可以归档在一个文件夹下边了,路径根据自己喜

好定义。

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka

这两个路径是相互对应的。

另外如何消除不断生成日志的问题,就是同一天的不同时间会不停生成。修改这里,还是在

log4j.properties中:本身都为trace,字面理解为会生成一堆跟踪日志,将其改为INFO即可。

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka

2、Linux下的安装

主要介绍如何在Centos7下安装zookeeper以及如何使用。

2.1 安装JDK

使用zookeeper前,必须先安装JDK。

JDK的安装请参考《Linux环境下JDK的安装》。

2.2 下载安装zookeeper

2.2.1 通过官网下载

https://archive.apache.org/dist/zookeeper/

https://downloads.apache.org/zookeeper/

本文中使用3.4.9版本:zookeeper-3.4.9.tar.gz

2.2.2 解压
# 解压
$ tar -xvf zookeeper-3.4.9.tar.gz

Zookeeper和Kafka安装,kafka,kafka

2.2.3 修改配置文件
# 1.进入配置文件目录
$ cd conf/

# 2.将zoo_sample.cfg这个文件复制为zoo.cfg (注意:文件名一定要是zoo.cfg) 
$ cp zoo_sample.cfg  zoo.cfg

# 3.修改配置文件
$ vim zoo.cfg
# 修改下面两项的内容
dataDir=/home/zhangshixing/kafka/zookeeper-3.4.9/data
clientPort=2181

Zookeeper和Kafka安装,kafka,kafka

注意:数据存放目录由自己决定,但是启动服务前一定要确保对应的目录存在,不然启动会失败。

2.2.4 创建data文件夹
# 创建data目录
$ mkdir /home/zhangshixing/kafka/zookeeper-3.4.9/data

2.3 启动zookeeper

2.3.1 进入zookeeper下的bin目录
$ cd /home/zhangshixing/kafka/zookeeper-3.4.9/bin

Zookeeper和Kafka安装,kafka,kafka

2.3.2 执行启动命令
$ ./zkServer.sh start

启动成功后如下:

Zookeeper和Kafka安装,kafka,kafka

除了开启,再备注几个其他命令:

# 停止
$ ./zkServer.sh stop

# 重启
$ ./zkServer.sh restart

# 查看状态
$ ./zkServer.sh status

Zookeeper和Kafka安装,kafka,kafka

虽然这样可以正常启动,但是每次都要进入到zookeeper的bin目录下,为了避免麻烦,可以将zookeeper设置开

机启动。

2.3.3 启动CLI
$ ./zkCli.sh

Zookeeper和Kafka安装,kafka,kafka

2.4 设置zookeeper开机自动启动

2.4.1 切换到/lib/systemd/system/目录,创建自启动文件
$ cd /lib/systemd/system/
$ vim zookeeper.service

文件内容如下:

[Unit]
Description=zookeeperservice
After=network.target

[Service]
# zookeeper路径
WorkingDirectory=/home/zhangshixing/kafka/zookeeper-3.4.9
# zookeeper执行文件
ExecStart=/home/zhangshixing/kafka/zookeeper-3.4.9/bin/zkServer.sh start    
User=root
Group=root
Restart=always
RestartSec=10

[Install]
WantedBy=multi-user.target

注意:zookeeper的路径需要修改成自己的!

2.4.2 设置自启动
$ systemctl enable zookeeper.service

Zookeeper和Kafka安装,kafka,kafka

2.4.3 启动服务
$ systemctl start zookeeper.service
2.4.4 查看启动状态
$ systemctl status zookeeper.service

Zookeeper和Kafka安装,kafka,kafka

至此,在Linux下安装zookeeper就完成了!

2.5 下载安装kafka

本文主要介绍如何在Centos7下安装kafka,本文使用的kafka版本是:2.12-0.11.0.0

2.5.1 通过官网直接下载

http://kafka.apache.org/downloads

kafka_2.12-0.11.0.0.tgz

2.5.2 解压并进入kafka目录
$ tar -xzf kafka_2.12-0.11.0.0.tgz
$ cd kafka_2.12-0.11.0.0/

Zookeeper和Kafka安装,kafka,kafka

2.5.3 启动kafka

1、启动kafka之前要确保zookeeper已经启动,如果没有启动,执行以下命令:

$ ./zkServer.sh

2、启动kafka之前,需要修改kafka配置文件中的zookeeper地址,打开配置文件:

$ vim config/server.properties

修改zookeeper.connect=192.168.94.186:2181(这里修改成自己安装的zookeeper地址和端口即可),除了

修改zookeeper服务地址外,还有其他配置项,如日志储存路径、消息的最大持久化时间、端口等等,这里不再赘

述。

zookeeper.connect=192.168.94.186:2181
log.dirs=/home/zhangshixing/kafka/kafka_2.12-0.11.0.0/logs

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka

3、启动kafka

$ bin/kafka-server-start.sh config/server.properties

Zookeeper和Kafka安装,kafka,kafka

2.6 设置kafka开机自动启动

2.6.1 切换到/lib/systemd/system/目录,创建自启动文件
$ cd /lib/systemd/system/
$ vim kafka.service

文件内容如下:

[Unit]
Description=kafkaservice
After=network.target

[Service]
WorkingDirectory=/home/zhangshixing/kafka/kafka_2.12-0.11.0.0
ExecStart=/home/zhangshixing/kafka/kafka_2.12-0.11.0.0/bin/kafka-server-start.sh config/server.properties
ExecStop=/home/zhangshixing/kafka/kafka_2.12-0.11.0.0/bin/kafka-server-stop.sh
User=root
Group=root
Restart=always
RestartSec=10

[Install]
WantedBy=multi-user.target
2.6.2 设置自启动
$ systemctl enable kafka.service

Zookeeper和Kafka安装,kafka,kafka

2.6.3 立即启动服务
$ systemctl start kafka.service
2.6.4 查看启动状态
$ systemctl status kafka.service

Zookeeper和Kafka安装,kafka,kafka

至此,linux安装kafka就完成了!

3、Docker安装

3.1 搜索zookeeper镜像

$ docker search zookeeper

Zookeeper和Kafka安装,kafka,kafka

3.2 拉取zookeeper镜像

$ docker pull wurstmeister/zookeeper

Zookeeper和Kafka安装,kafka,kafka

3.3 启动zookeeper

$ docker run -d --name zookeeper -p 2181:2181 -t wurstmeister/zookeeper

Zookeeper和Kafka安装,kafka,kafka

3.4 查看zookeeper启动信息

$ docker logs -f zookeeper

Zookeeper和Kafka安装,kafka,kafka

3.5 搜索kafka镜像

$ docker search kafka

Zookeeper和Kafka安装,kafka,kafka

3.6 拉取kafaka镜像

$ docker pull wurstmeister/kafka

Zookeeper和Kafka安装,kafka,kafka

3.7 启动kafka

$ docker run -d --name kafka -p 9092:9092 -e KAFKA_BROKER_ID=0 -e KAFKA_ZOOKEEPER_CONNECT=192.168.94.186:2181 -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://192.168.94.186:9092 -e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 -e ALLOW_PLAINTEXT_LISTENER=yes -t wurstmeister/kafka
# 在kafka集群中,每个kafka都有一个BROKER_ID来区分自己
-e KAFKA_BROKER_ID=0 
# 配置zookeeper管理kafka的路径192.168.94.186:2181
-e KAFKA_ZOOKEEPER_CONNECT=192.168.94.186:2181
# 把kafka的地址端口注册给zookeeper
-e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://192.168.94.186:9092 
# 配置kafka的监听端口
-e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 
# 允许使用PLAINTEXT侦听器
-e ALLOW_PLAINTEXT_LISTENER=yes

Zookeeper和Kafka安装,kafka,kafka

3.8 查看kafka启动信息

$ docker logs -f kafka

Zookeeper和Kafka安装,kafka,kafka

3.9 测试

# 进入kafka容器
# 创建Replication为1,Partition为1的topic
$ docker exec -it kafka /bin/sh
$ cd /opt/kafka_2.13-2.8.1
$ bin/kafka-topics.sh --create --zookeeper 192.168.94.186:2181 --replication-factor 1 --partitions 1 --topic partopic

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka

# 查看topic的状态
$ bin/kafka-topics.sh --describe --zookeeper 192.168.94.186:2181 --topic partopic

Zookeeper和Kafka安装,kafka,kafka

# 发送kafka消息
$ bin/kafka-console-producer.sh --broker-list 192.168.94.186:9092 --topic partopic
# 接收消息
$ docker exec -it kafka /bin/sh
$ cd /opt/kafka_2.13-2.8.1
$ bin/kafka-console-consumer.sh --bootstrap-server 192.168.94.186:9092 --topic partopic --from-beginning

Zookeeper和Kafka安装,kafka,kafka

Zookeeper和Kafka安装,kafka,kafka文章来源地址https://www.toymoban.com/news/detail-742888.html

到了这里,关于Zookeeper和Kafka安装的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 安装kafka需优先安装 zookeeper ,scala

    安装kafka需优先安装 zookeeper , scala scala 安装(如安装略过) 现在 wget https://downloads.lightbend.com/scala/2.12.11/scala-2.12.11.tgz 解压 tar -zxvf scala-2.12.11.tgz 编辑环境变量 vim /etc/profile 添加环境变量 ( export SCALA_HOME=/apps/scala export PATH=${PATH}:${SCALA_HOME}/bin ) 生效配置文件文件   source /etc

    2024年04月29日
    浏览(42)
  • Mac 安装ZooKeeper+kafka基本使用

    下面ZooKeeper基本介绍: 1、基本功能 ZooKeeper 为分布式系统提供了一种配置管理的服务:集中管理配置,即将全局配置信息保存在 ZooKeeper 服务中,方便进行修改和管理,省去了手动拷贝配置的过程,同时还保证了可靠和一致性。 2、 命名服务 在分布式系统中,经常需要对应用

    2024年02月09日
    浏览(33)
  • 在Windows上搭建Kafka环境的步骤,包括安装Java、下载Kafka、配置Zookeeper和Kafka、启动Zookeeper和Kafka、创建主题和生产者/消费者等

    1. 安装Java Kafka需要Java环境支持。可以从Oracle官网下载JDK,或者使用OpenJDK。 2. 下载Kafka 可以从Kafka官网下载Kafka二进制压缩包。解压后可以看到bin、config、libs等目录。 3. 配置Zookeeper Kafka依赖Zookeeper实现分布式协作。可以使用Kafka自带的Zookeeper,也可以独立安装Zookeeper。 如果使

    2024年02月11日
    浏览(45)
  • Windows下安装与使用Kafka(使用Kafka内置的ZooKeeper图文结合版)

    1.安装JDK并配置好对应的环境变量 ● 新建一个文件夹jre ● 1.环境变量如下-安装的路径 ● 2.点击path新建 ● 3.建一个系统变量 1.下载安装包Apache Zookeeper 下载 2.解压并进入Zookeeper目录 ● 2.1将conf下的zoo_sample.cfg重命名为 zoo.cfg ● 2.2 打开zoo.cfg,修改数据存放位置dataDir dataDir=D

    2024年02月13日
    浏览(45)
  • 【Docker安装部署Kafka+Zookeeper详细教程】

    Docker拉取zookeeper的镜像 Docker拉取kafka的镜像 这个地方没有使用挂载目录的方式,想要使用挂载目录的方式可以看我前面的文章呦!!! 【Linux操作系统使用Docker部署Zookeeper】 【Docker安装部署Zookeeper集群】 参数说明 查看zookeeper的ip地址 后面部署kafka会使用到zookeeper的ip地址 进

    2023年04月19日
    浏览(50)
  • docker-compose安装kafka、zookeeper

    #安装docker-compose,(下载好docker-compose) #将 docker-compose 移动到相应目录 #授权 #创建kafka目录 #授权 #编写 docker-compose.yml #将docker-compose.yml放到 /docker 目录,目录下执行

    2024年02月12日
    浏览(48)
  • mac m1 docker 安装kafka和zookeeper

    获取本地ip地址  ifconfig en0   192.168.0.105.   下面的ip都会使用到 1、拉取镜像 docker pull wurstmeister/zookeeper docker pull wurstmeister/kafka 2、启动容器 启动 zookeeper docker run -d --name zookeeper -p 2181:2181 映射 3、 启动 kafka 注意,kafka 依赖 zookeeper,启动 kafka 前需要先启动 zookeeper。 这边端口

    2024年02月10日
    浏览(46)
  • 免登陆 同步脚本 zookeeper kafka集群详细安装步骤

    一.免登陆配置 二.集群同步

    2024年02月08日
    浏览(49)
  • kafka3.X集群安装(不使用zookeeper)

    在本专栏的之前的一篇文章《kafka3种zk的替代方案》已经为大家介绍过在kafka3.0种已经可以将zookeeper去掉。 上图中黑色代表broker(消息代理服务),褐色/蓝色代表Controller(集群控制器服务) 左图(kafka2.0):一个集群所有节点都是broker角色,kafka从三个broker中选举出来一个Cont

    2024年02月08日
    浏览(40)
  • Windows使用docker desktop 安装kafka、zookeeper集群

    参考文章:http://t.csdn.cn/TtTYI https://blog.csdn.net/u010416101/article/details/122803105?spm=1001.2014.3001.5501 准备工作: ​ 在开始新建集群之前,新建好文件夹,用来挂载kafka、zookeeper数据,如下: zookeeper文件夹 D:softdockerzookeeperzoo1data D:softdockerzookeeperzoo1datalog D:softdockerzookeeperzoo

    2024年02月14日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包