KAFKA (2.12-2.2.1)常用命令和kafka tool 工具使用

这篇具有很好参考价值的文章主要介绍了KAFKA (2.12-2.2.1)常用命令和kafka tool 工具使用。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

KAFKA (2.12-2.2.1)常用命令

查看topic

查看所有topic列表

#集群地址以逗号分隔如 ip1:9092, ip2:9092, ip3:9092

./kafka-topics.sh --list --bootstrap-server ip:9092

kafka tool,# kafka,kafka,分布式

新建分区1副本1的topic

./kafka-topics.sh --bootstrap-server ip:9092 --create --topic demo0218 --partitions 1 --replication-factor 1

查看某个topic
./kafka-topics.sh --bootstrap-server ip:9092 --describe --topic demo0218

kafka tool,# kafka,kafka,分布式
#修改demo0218分区为3(分区数建议只增不减,分区数据不好处理)

#分区内部消息有序,分区之间消息无序

./kafka-topics.sh --bootstrap-server ip:9092 --alter --topic demo0218 --partitions 3

kafka tool,# kafka,kafka,分布式

生产消息

./kafka-console-producer.sh --broker-list ip:9092 --topic demo0218

kafka tool,# kafka,kafka,分布式
kafka tool,# kafka,kafka,分布式

消费消息

#–from-beginning :

#加上:会把topic中以往所有的数据都读取出来

#不加:此时只会消费最新的数据,原来topic中的数据不会被消费

./kafka-console-consumer.sh --bootstrap-server ip:9092 -from-beginning --topic demo0218 --group hik0218
kafka tool,# kafka,kafka,分布式
查看指定消费者组的消费topic 的位置情况,查看消费是否存在积压(LAG)
./kafka-consumer-groups.sh --bootstrap-server ip:9092 --group hik0218 –describe
kafka tool,# kafka,kafka,分布式

删除topic demo0228
./kafka-topics.sh --bootstrap-server ip:9092 --delete --topic demo0218

kafka tool,# kafka,kafka,分布式

Kafka tool简介

Kafka tool为kafka 较为通用的客户端连接工具之一,通过连接kafka直接明了的查看kafka数据、创建删除topic,添加kafka数据完成简单流程验证、查看topic消费情况等功能

Kafka Tool 工具下载地址:

http://www.kafkatool.com/download.html
Kafka 连接配置
1)启动 Kafka Tool

在安装目录下,双击可执行文件 kafkatool.exe,启动 Kafka Tool
kafka tool,# kafka,kafka,分布式
2)配置 Kafka 连接信息

File -> Add New Connection…

kafka tool,# kafka,kafka,分布式
【注意】需要在 C:\Windows\System32\drivers\etc 下的 hosts 文件中,添加入 kafka 的集群域名(配置保存后,需要重启KafkaTools才能读取hosts文件中的内容)

例如:

kafka tool,# kafka,kafka,分布式

查看 Kafka 数据

1)查看 Kafka 数据

选择一个Topic -> Data,点击查询即可看到数据(但是Key和Message是二进制的,不能直观的看到具体的消息信息,需要设置展示格式)

Messages选择Newest,表示查看最新的Kafka数据;

结果列表中的每列,通过点击表头,可以按照升序或者降序排序(一般用在时间字段排序,方便查看最新数据)。
kafka tool,# kafka,kafka,分布式

2)设置 Kafka 数据展示格式

在Tools -> Settings -> Topics,将 Key 和 Message 均设置为String 保存。这样是全局设置,对所有 Topic 均生效。

kafka tool,# kafka,kafka,分布式
kafka tool,# kafka,kafka,分布式
如果只是想单独设置某个 Topic,可以选中某个 Topic,在 Properties -> Content Type 中,将显示格式设置为String,点击 Update -> Refresh 即可生效

kafka tool,# kafka,kafka,分布式
设置后的数据列表如下

kafka tool,# kafka,kafka,分布式

3)查看具体某一条消息

选中某一个message,点击“Message”查看详情,默认是“Text”格式(如果想看到JSON格式,只需要设置下“View Data As”即可)

kafka tool,# kafka,kafka,分布式
kafka tool,# kafka,kafka,分布式
“View Data As”设置为 JSON 后,消息信息格式如下

kafka tool,# kafka,kafka,分布式
4)过滤查询 Kafka 消息
可以按照Offset(偏移量),Key(消息key),Message(消息主体),Regex(正则表达式)进行单个或者组合查询

kafka tool,# kafka,kafka,分布式

使用 Kafka Tool 创建 Topic

1) 创建 Topic

步骤如下:

1、鼠标右键点击 “Topics” 文件夹图标 -> 选择 “Create Topic”,或者点击“Topics”,单击右侧页面中的“+”,会弹出“Add Topic”页面;

2、填写需要创建的Topic名称,分区数和备份数,点击“Add”添加,即可创建 topic。

效果如下:
kafka tool,# kafka,kafka,分布式
kafka tool,# kafka,kafka,分布式
kafka tool,# kafka,kafka,分布式

2)查看创建的 Topic

创建的出来的 topic, 可以在 Topic 列表或者通过 Kafka topic 命令查看。
kafka tool,# kafka,kafka,分布式

3)删除 Topic

如果因为失误导致创建的 topic 不是自己想要的,想进行删除,也可以通过 KafkaTool 进行界面化删除。

效果如下:
kafka tool,# kafka,kafka,分布式

4)补充说明

如果通过 Kafka Tool 创建 topic 失败,请确认如下两点:

a)是否按照如下截图配置的Cluster Connection

(本次举例是单台机器,如果实际是集群,需要把 bootstrap servers进行集群配置,如3台集群配置:192.168.71.129:9092,192.168.71.130:9092,192.168.71.131:9092)

kafka tool,# kafka,kafka,分布式
b)是否按照kafka连接配置的说明在hosts文件中配置了域名

kafka tool,# kafka,kafka,分布式

使用 Kafka Tool 模拟发送 Messages

操作步骤如下:

点击“Topics” -> 选择一个 topic(如:topic01) -> 选择分区(如:Partition 0),点击右侧“Data”里的“+”,会弹出“Add Message”页面。

其中,Key 和 Message 均支持两种方式:From file 和 Enter Manually[Text]

From file:就是数据来源于文件,需要上传文件(个人建议上传txt格式文件)

Enter Manually[Text]:手动输入

二者可以混合搭配使用,并且 Key 和 Message 二者必须有值,否则会报错.
效果如下:

kafka tool,# kafka,kafka,分布式

场景1:Key 和 Message 均选择手动输入

kafka tool,# kafka,kafka,分布式

场景2:Key 和 Message 均选择来自文件

kafka tool,# kafka,kafka,分布式

场景3:Key 和 Message 其中一个来自文件,一个来自手动输入

kafka tool,# kafka,kafka,分布式
kafka tool,# kafka,kafka,分布式
txt文件中内容如下:

kafka tool,# kafka,kafka,分布式
消费者消费到的模拟数据
kafka tool,# kafka,kafka,分布式
消费命令如下:

./kafka-console-consumer.sh --bootstrap-server 192.168.71.129:9092 --topic topic01文章来源地址https://www.toymoban.com/news/detail-769829.html

到了这里,关于KAFKA (2.12-2.2.1)常用命令和kafka tool 工具使用的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【大数据工具】Kafka伪分布式、分布式安装和Kafka-manager工具安装与使用

    Kafka 安装包下载地址:https://archive.apache.org/dist/kafka/ 1. Kafka 伪分布式安装 1. 上传并解压 Kafka 安装包 使用 FileZilla 或其他文件传输工具上传 Kafka 安装包: kafka_2.11-0.10.0.0.tgz 解压安装包 2. 编辑配置文件 3. 拷贝并修改配置文件 分别修改 server2.properties、server3.properties 4. 创建日志

    2024年02月14日
    浏览(48)
  • Kafka 可视化工具 Kafka Tool

    使用Kafka的小伙伴,有没有为无法直观地查看 Kafka 的 Topic 里的内容而发过愁呢? 下面推荐给大家一款带有可视化页面的Kafka工具: Kafka Tool (目前最新版本是 2.0.4 ) 下载地址 http://www.kafkatool.com/download.html 下载界面 不同版本的Kafka对应不同版本的工具,个人使用的是0.11,所

    2024年02月12日
    浏览(43)
  • kafka客户端工具(Kafka Tool)的安装

    官方下载 根据不同的系统下载对应的版本,点击下载后双击,如何一直下一步,安装 kafka环境搭建请参考:CentOS 搭建Kafka集群 (1)连接kafka (2)简单使用  

    2024年04月23日
    浏览(76)
  • 【数仓】Kafka消息可视化工具:Offset Explorer(原名kafka Tool)

    Offset Explorer(以前称为Kafka Tool)是一个用于管理和使用Apache Kafka®集群的GUI应用程序。 它提供了一个直观的界面,允许用户快速查看Kafka集群中的对象以及集群主题中存储的消息。 它包含面向开发人员和管理员的功能。 一些主要功能包括: 快速查看所有Kafka集群,包括其代

    2024年04月09日
    浏览(49)
  • kafka tool下载安装和使用

    下载连接:https://www.kafkatool.com/download.html kafka tool官网介绍 Kafka工具是用于管理和使用Apache Kafka集群的GUI应用程序。 它提供了一种直观的UI,可让用户快速查看Kafka集群中的对象以及集群主题中存储的消息。 它包含面向开发人员和管理员的功能。 主要功能如下: 1. 快速查看所

    2024年02月05日
    浏览(66)
  • kafka 集群搭建 & 常用命令

    1、集群搭建: 1 将kafka 压缩包解压到某一目录 tar -zxvf kafka_2.12-3.5.1.tgz 2 修改节点配置文件 vim config/server.properties broker.id=0 log.dirs=/tmp/kafka-logs zookeeper 连接配置 zookeeper.connect=节点1:2181,节点2:2181,节点3:2181 3 将安装好的kafka 分发到其他服务器 scp -r kafka_2.12-2.4.1/ xxx 4配置KAFKA_HOME环

    2024年02月07日
    浏览(52)
  • Kafka的常用命令

    提前说明 :当前kafka的版本为 2.13-2.8.1 , 下述所有命令都是需要进入到Kafka服务的的bin目录下执行,即下图所示目录。  1.查看主题列表 2.创建主题 如下为创建一个单分区单副本的主题的命令示例: 3.查看主题信息   PartitionCount :1表示该主题的分区数 ReplicationFactor :1表示每

    2024年02月15日
    浏览(39)
  • kafka常用命令归纳

    这里的命令以kafka2.2之后版本进行说明,社区推荐命令指定 --bootstrap-server参数,受kafka安全认证体系的约束,如果使用 --zookeeper 会绕过 Kafka 的安全体系。 以 max.message.bytes为例 5.1 增加指定broker的配置 zookeeper 查看修改后内容 5.2 删除指定broker的配置 限制某个主题副本在执行副

    2024年02月05日
    浏览(33)
  • Kafka常用操作命令

    一、主题 创建 ./bin/kafka-topics.sh --create --zookeeper 192.168.8.9:2181 --replication-factor 1 --partitions 1 --topic test 列表 ./bin/kafka-topics.sh --list --zookeeper 192.168.8.9:2181 删除 ./bin/kafka-topics.sh --delete --zookeeper 192.168.8.9:2181 --topic test 详情 ./bin/kafka-topics.sh --describe --zookeeper 192.168.8.9:2181 --topic test 二、

    2024年02月11日
    浏览(61)
  • Linux——kafka常用命令

    多多点赞,会变好看! 多多留言,会变有钱! 前台启动: 后台启动: 前台启动: 后台启动: 创建一个叫demo-topic的主题(topic),有两个分区,每个分区3个副本,同时指定该主题的消息保留时长(72小时): 单机创建主题  没有zookeeper: 没有zookeeper:

    2024年02月03日
    浏览(29)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包