命令消费kafka报错(id: -1 rack: null) disconnected

这篇具有很好参考价值的文章主要介绍了命令消费kafka报错(id: -1 rack: null) disconnected。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

CDP 717环境使用kafka-console-consumer 命令消费kafka报错如下

23/03/28 09:19:07 WARN clients.NetworkClient: [Consumer clientId=consumer-console-consumer-52833-1, groupId=console-consumer-52833] Bootstrap broker xx.xx.xx.xx:9092 (id: -1 rack: null) disconnected

原因

是因为kafka开启了kerberos
具体检查可见

1、In Cloudera Manager, navigate to Kafka > Configuration.
2、Set SSL Client Authentication to none.
3、Set Inter Broker Protocol to SASL_PLAINTEXT.

解决方式

1、创建文件jaas.conf

KafkaClient {
com.sun.security.auth.module.Krb5LoginModule required
useKeyTab=true
keyTab="/var/run/cloudera-scm-agent/process/11111-kafka-KAFKA_BROKER/kafka.keytab"
principal="kafka/xxxx@XXX.XXX.COM";
};

注意:这里principal不清楚的话可以先执行kinit认证后,klist查看对应信息填入即可

2、创建文件client.properties

security.protocol=SASL_PLAINTEXT
sasl.kerberos.service.name=kafka

3、执行命令

这里的jaas文件路径参考上面1存放路径
export KAFKA_OPTS="-Djava.security.auth.login.config=/home/user/jaas.conf"

4、执行消费命令

/opt/cloudera/parcels/CDH/bin/kafka-console-consumer --topic mytpoic --bootstrap-server brokerip:9092 --consumer.config client.properties --from-beginning

参考链接
https://docs.cloudera.com/cdp-private-cloud-base/7.1.7/kafka-securing/topics/kafka-secure-kerberos-enable.html文章来源地址https://www.toymoban.com/news/detail-454087.html

到了这里,关于命令消费kafka报错(id: -1 rack: null) disconnected的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Kafka Group coordinator xxx:9092 (id: xxx rack: null) is unavailable or invalid

    Kafka本身启动和相互通信没有问题,但是在使用Java API 模拟消费者连接到Kafka的时候出现报错 我们可以注意一下控制台给出的域名地址,这个域名可能是因为解析问题或者限于远程服务器的安全策略做了转换 验证这个问题的办法,在windows开启telnet命令,在cmd中 发现是无法连

    2024年02月16日
    浏览(33)
  • Group coordinator 192.169.0.16:9092 (id: 2147483647 rack: null) is unavailable or invalid due to cau

    kafka报错 我们可以注意一下控制台给出的域名地址,这个域名可能是因为解析问题或者限于远程服务器的安全策略做了转换 验证这个问题的办法,在windows开启telnet命令,在cmd中 发现是无法连接的 使用管理员权限手动在C:WindowsSystem32driversetchosts文件中添加映射,手动让自

    2024年02月11日
    浏览(50)
  • kafka消费者的group id从哪里获取

    今天跑了一下kafka的示例demo,突然意识到一个问题。消费者拉取broker的消息时需要指定group id,而生产者将消息发送到broker的时候并不会指定group id,那么消费者的group id从哪里获取呢? 查阅我的这篇文章 kafka消费者 的3.1小节, 如果不配置该参数,则会抛出异常。为此,笔

    2024年02月11日
    浏览(48)
  • Kafka指定分区消费及consumer-id,client-id相关概念解析

    xxxx系列(1)― xxxx系列(2)― xxxxx系列(3)― 提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档 在最近使用Kafka过程中,发现使用@KafkaListener指定分区消费时(指定了所有分区),如果服务是多节点,会出现重复消费的现象,即两个服务节点中的消费者均会消

    2024年02月13日
    浏览(50)
  • Kafka中的group_id:实现消息分组消费的关键

    Kafka是一种高性能、可扩展的分布式消息系统,被广泛应用于大规模数据流处理的场景。在Kafka中,group_id是一个关键概念,用于实现消息的分组消费。本文将详细介绍group_id的作用和使用方法,并提供相应的源代码示例。 Kafka消息分组消费的概念是指多个消费者协同消费同一

    2024年02月03日
    浏览(37)
  • 使用kafka-consumer-group.sh查看消息消费情况,CONSUMER-ID,HOST,CLIENT-ID不显示问题分析

    在使用使用kafka-consumer-group.sh查看消息消费情况,消息都已经消费完了,但是CONSUMER-ID,HOST,CLIENT-ID字段的信息不显示,而且,消费实例也在运行中,却出现了 Consumer group \\\'manage.group1\\\' has no active members., 如下图所示: 消费者的代码如下: 之所以出现上面的的问题,是因为使

    2024年02月16日
    浏览(46)
  • dubbo启动报错 java.lang.reflect.InvocationTargetException null 没有提供者没有消费者

    启动dubbo时,控制台报错信息如下。 打开dubbo的服务注册中心发现 在网上查找了一番,网上的说发众说飞云,有人说要保证提供者和消费者的包名一致,也有人说是ip的问题要在host里面配置, 后来经过一番仔细查找发现不对的地方了 服务提供者的主类上没有配置注解,这个

    2024年02月13日
    浏览(44)
  • Kafka - Topic 消费状态常用命令

    replication-factor:指定副本数量 partitions:指定分区 查看consumer group列表有新、旧两种命令,分别查看新版(信息保存在broker中)consumer列表和老版(信息保存在zookeeper中)consumer列表,因而需要区分指定bootstrap--server和zookeeper参数 这里同样需要根据新、旧版本的consumer,分别指

    2024年01月25日
    浏览(52)
  • kafka命令之消费者组

    查看消费者组 ./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --list 查看具体消费者组信息【partition、offset、lag、host等】 ./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group ${group_name} 设置具体消费者组下topic offset ./kafka-consumer-groups.sh --bootstrap-server localhost:9092 --execu

    2024年02月07日
    浏览(34)
  • 【kafka】服务器命令行查询kafka信息消费情况

    大家好,我是好学的小师弟,kafka-tool出问题的情况下,可以用命令行来查看kafka信息 1.找到kafka所在的安装目录 2.列出有哪些用户组来消费: 3.查看某个用户组的kafka消息消费情况,有没有数据积压 4.查看topic某分区数据偏移量(offset)最大值,就是看目前Kafka里有多少条消息 新

    2024年02月11日
    浏览(58)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包