kafka-2.12使用记录

这篇具有很好参考价值的文章主要介绍了kafka-2.12使用记录。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

kafka-2.12使用记录

安装kafka 2.12版本

下载安装包

根据你的系统下载rpm /deb /zip包等等, 这里我使用的是rpm包
安装命令 rpm -ivh kafka-2.12-1.nfs.x86_64.rpm

启动内置Zookeeper

以下命令要写在同一行上

/opt/kafka-2.12/bin/zookeeper-server-start.sh 
/opt/kafka-2.12/config/zookeeper.properties

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

启动kafka服务器

以下命令要写在同一行上

/opt/kafka-2.12/bin/kafka-server-start.sh
/opt/kafka-2.12/config/server.properties

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

使用kafka

创建和查看topic

创建一个单 partition分区,单 replication副本 的叫 topic2023 的主题

/opt/kafka-2.12/bin/kafka-topics.sh --create --bootstrap-server localhost:9092 --replication-factor 1  --partitions 1 --topic topic2023

查看topic列表

/opt/kafka-2.12/bin/kafka-topics.sh --list --bootstrap-server localhost:9092

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

创建1个消息生产者

命令输入完后,可以继续输入 多行要发送的消息内容

/opt/kafka-2.12/bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic topic2023

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

创建1个消息消费者

命令输入完成后回车,可以看到控制台显示出订阅到的消息内容

/opt/kafka-2.12/bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic topic2023 --from-beginning

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

配置kafka允许外网访问

需要进入config目录,修改server.properties文件里的配置

修改listeners配置项

listeners指定kafka监听的本地地址和端口,这里配置为0.0.0.0:9092表示监听所有网络接口

listeners = PLAINTEXT://0.0.0.0:9092

修改advertised.listeners配置项

advertised.listeners是用于向客户端公布你的kafka访问地址,需要配置为你的机器的外部IP和端口

advertised.listeners=PLAINTEXT://10.1.5.212:9092

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

测试zookeeper联通性

可以使用prettyZoo客户端工具测试访问zk服务器

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

使用kafkaUI-lite在线浏览和测试kafka

什么是kafkaUI-lite

kafka-ui-lite是一个开源的kafka监控项目,可以在gitee下载.
提供了对kafka 、zookeeper 、redis的监控和管理功能,
支持在线浏览和管理kafka的 topic主题/kafka集群/group分组
支持在线发送kafka消息

使用kafkaUI-lite查看topic

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

使用kafkaUI-lite创建topic

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

使用kafkaUI-lite发送消息

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI

使用kafkaUI-lite查看zookeeper信息

kafka-2.12使用记录,MQ消息队列,kafka,分布式,kafkaUI文章来源地址https://www.toymoban.com/news/detail-648608.html

到了这里,关于kafka-2.12使用记录的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 分布式 - 消息队列Kafka:Kafka生产者发送消息的3种方式

    不管是把Kafka作为消息队列、消息总线还是数据存储平台,总是需要一个可以往Kafka写入数据的生产者、一个可以从Kafka读取数据的消费者,或者一个兼具两种角色的应用程序。 Kafka 生产者是指使用 Apache Kafka 消息系统的应用程序,它们负责将消息发送到 Kafka 集群中的一个或多

    2024年02月13日
    浏览(48)
  • 分布式消息队列Kafka(四)- 消费者

    1.Kafka消费方式 2.Kafka消费者工作流程 (1)总体工作流程 (2)消费者组工作流程 3.消费者API (1)单个消费者消费 实现代码 (2)单个消费者指定分区消费 代码实现: (3)消费者组消费 复制上面CustomConsumer三个,同时去订阅统一个主题,消费数据,发现一个分区只能被一个

    2023年04月26日
    浏览(49)
  • 分布式 - 消息队列Kafka:Kafka 消费者的消费位移

    01. Kafka 分区位移 对于Kafka中的分区而言,它的每条消息都有唯一的offset,用来表示消息在分区中对应的位置。偏移量从0开始,每个新消息的偏移量比前一个消息的偏移量大1。 每条消息在分区中的位置信息由一个叫位移(Offset)的数据来表征。分区位移总是从 0 开始,假设一

    2024年02月12日
    浏览(50)
  • 分布式应用之zookeeper集群+消息队列Kafka

           ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。为分布式框架提供协调服务的

    2024年02月06日
    浏览(66)
  • zookeeper+kafka分布式消息队列集群的部署

    目录 一、zookeeper 1.Zookeeper 定义 2.Zookeeper 工作机制 3.Zookeeper 特点 4.Zookeeper 数据结构 5.Zookeeper 应用场景 (1)统一命名服务 (2)统一配置管理 (3)统一集群管理 (4)服务器动态上下线 6.Zookeeper 选举机制 (1)第一次启动选举机制 (2)非第一次启动选举机制 7.部署zookeepe

    2024年02月14日
    浏览(52)
  • 分布式 - 消息队列Kafka:Kafka消费者的分区分配策略

    Kafka 消费者负载均衡策略? Kafka 消费者分区分配策略? 1. 环境准备 创建主题 test 有5个分区,准备 3 个消费者并进行消费,观察消费分配情况。然后再停止其中一个消费者,再次观察消费分配情况。 ① 创建主题 test,该主题有5个分区,2个副本: ② 创建3个消费者CustomConsu

    2024年02月13日
    浏览(47)
  • 分布式 - 消息队列Kafka:Kafka生产者架构和配置参数

    生产者发送消息流程参考图1: 先从创建一个ProducerRecord对象开始,其中需要包含目标主题和要发送的内容。另外,还可以指定键、分区、时间戳或标头。在发送ProducerRecord对象时,生产者需要先把键和值对象序列化成字节数组,这样才能在网络上传输。 接下来,如果没有显式

    2024年02月13日
    浏览(50)
  • 分布式 - 消息队列Kafka:Kafka消费者和消费者组

    1. Kafka 消费者是什么? 消费者负责订阅Kafka中的主题,并且从订阅的主题上拉取消息。与其他一些消息中间件不同的是:在Kafka的消费理念中还有一层消费组的概念,每个消费者都有一个对应的消费组。当消息发布到主题后,只会被投递给订阅它的每个消费组中的一个消费者

    2024年02月13日
    浏览(45)
  • 分布式 - 消息队列Kafka:Kafka 消费者消费位移的提交方式

    最简单的提交方式是让消费者自动提交偏移量,自动提交 offset 的相关参数: enable.auto.commit:是否开启自动提交 offset 功能,默认为 true; auto.commit.interval.ms:自动提交 offset 的时间间隔,默认为5秒; 如果 enable.auto.commit 被设置为true,那么每过5秒,消费者就会自动提交 poll() 返

    2024年02月12日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包