kafka修改Topic副本数和分区数

这篇具有很好参考价值的文章主要介绍了kafka修改Topic副本数和分区数。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一 .修改Kafka Topic副本数
1.bin/kafka-topics.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 --create --partitions 3 --replication-factor 3 --topic bms_clean_dwm_es11_yb
##新建测试topic bms_clean_dwm_es11_yb
2.bin/kafka-topics.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 --topic bms_clean_dwm_es11_yb --describe ##查看Topic详情如下:
Topic:bms_clean_dwm_es11_yb PartitionCount:3 ReplicationFactor:3 Configs:
Topic: bms_clean_dwm_es11_yb Partition: 0 Leader: 49 Replicas: 49,48,47 Isr: 49,48,47
Topic: bms_clean_dwm_es11_yb Partition: 1 Leader: 48 Replicas: 48,47,49 Isr: 48,47,49
Topic: bms_clean_dwm_es11_yb Partition: 2 Leader: 47 Replicas: 47,49,48 Isr: 47,49,48

3.cat << EOF > increase-replication-factor.json
{“version”:1,
“partitions”:[
{“topic”:“bms_clean_dwm_es11_yb”,“partition”:0,“replicas”:[47]},
{“topic”:“bms_clean_dwm_es11_yb”,“partition”:1,“replicas”:[48]},
{“topic”:“bms_clean_dwm_es11_yb”,“partition”:2,“replicas”:[49]}
]
}
EOF
##新建修改副本数 increase-replication-factor.json 文件
4.bin/kafka-reassign-partitions.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 --reassignment-json-file increase-replication-factor.json --execute
##执行操作命令将副本数改为 1
5.看到successfully,查看现在bms_clean_dwm_es11_yb的副本数已经修改为1
Topic:bms_clean_dwm_es11_yb PartitionCount:3 ReplicationFactor:1 Configs:
Topic: bms_clean_dwm_es11_yb Partition: 0 Leader: 47 Replicas: 47 Isr: 47
Topic: bms_clean_dwm_es11_yb Partition: 1 Leader: 48 Replicas: 48 Isr: 48
Topic: bms_clean_dwm_es11_yb Partition: 2 Leader: 49 Replicas: 49 Isr: 49

二 . 修改Kafka 分区数操作步骤
1.bin/kafka-topics.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 --create --partitions 3 --replication-factor 3 --topic bms_clean_dwm_es11_ym
##新建测试topic bms_clean_dwm_es11_ym
2.bin/kafka-topics.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 --topic bms_clean_dwm_es11_ym --describe ##查看Topic详情如下:
Topic:bms_clean_dwm_es11_ym PartitionCount:3 ReplicationFactor:3 Configs:
Topic: bms_clean_dwm_es11_ym Partition: 0 Leader: 49 Replicas: 49,48,47 Isr: 49,48,47
Topic: bms_clean_dwm_es11_ym Partition: 1 Leader: 47 Replicas: 47,49,48 Isr: 47,49,48
Topic: bms_clean_dwm_es11_ym Partition: 2 Leader: 48 Replicas: 48,47,49 Isr: 48,47,49

##分区数为3,副本数为3

3.bin/kafka-topics.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 -alter --partitions 6 --topic bms_clean_dwm_es11_ym ##分区数只能增加不能减小

4.bin/kafka-topics.sh --zookeeper gw04:2181,gw05:2181,gw06:2181 --topic bms_clean_dwm_es11_ym --describe
Topic:bms_clean_dwm_es11_ym PartitionCount:6 ReplicationFactor:3 Configs:
Topic: bms_clean_dwm_es11_ym Partition: 0 Leader: 49 Replicas: 49,48,47 Isr: 49,48,47
Topic: bms_clean_dwm_es11_ym Partition: 1 Leader: 47 Replicas: 47,49,48 Isr: 47,49,48
Topic: bms_clean_dwm_es11_ym Partition: 2 Leader: 48 Replicas: 48,47,49 Isr: 48,47,49
Topic: bms_clean_dwm_es11_ym Partition: 3 Leader: 49 Replicas: 49,48,47 Isr: 49,48,47
Topic: bms_clean_dwm_es11_ym Partition: 4 Leader: 47 Replicas: 47,49,48 Isr: 47,49,48
Topic: bms_clean_dwm_es11_ym Partition: 5 Leader: 48 Replicas: 48,47,49 Isr: 48,47,49

##查看详情来看分区数已经被改成6个,副本数还是3文章来源地址https://www.toymoban.com/news/detail-407338.html

到了这里,关于kafka修改Topic副本数和分区数的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • KafKa 分区,副本实战

    5个broker (1主4从) 安装目路/config/server.properties, 额外复制4份为 server-2.properties,server-3.properties,server-4.properties,server-5.properties 主要配置不同 server.properties server-2.properties server-3.properties server-4.properties server-5.properties 运行这5个broker 创建一个主题test,8个分区,3个副本 bootstrap

    2024年02月11日
    浏览(39)
  • Kafka的分区和副本机制

    Kafka的分区和副本机制是分布式消息系统中的重要概念,它们在数据一致性和容错方面起到了关键作用。下面我将详细介绍这两个机制的工作原理和底层实现思路,并通过Java源码示例和分析来加深理解。 Kafka分区机制 Kafka的分区机制是按照一定规则将主题(Topic)中的消息分

    2024年02月01日
    浏览(53)
  • Kafka之分区副本与ISR

    Kafka的Topic分区本质是一个用于存储Topic下的消息的日志,但是只存一份日志会因为机器损坏或其他原因导致消息丢失不可恢复, 因此需要多个相同的日志作为备份,提高系统可用性,这些备份在kafka中被称为副本(replica)。 kafka将分区的所有副本均匀的分配到所有broker上,并从

    2024年02月04日
    浏览(36)
  • kafka topic分区数设定

    然后假设总的目标吞吐量是Tt,那么分区数=Tt / min(Tp,Tc) 例如:producer吞吐量 = 70m/s;consumer吞吐量 =100m/s,期望吞吐量 300m/s; 分区数 = 300 / 70 = 4或者5个分区

    2024年02月02日
    浏览(55)
  • kafka topic多分区乱序问题

    [root@centos6 bin]# ./kafka-topics.sh --create --bootstrap-server 127.0.0.1:9092 --replication-factor 1 --partitions 6 --topic test1 Created topic test1. [root@centos6 kafka]# cat produce_kafka.py  from kafka import KafkaProducer from kafka.errors import KafkaError import os producer = KafkaProducer(bootstrap_servers=[\\\'127.0.0.1:9092\\\']) # Asynchronous by de

    2024年02月06日
    浏览(52)
  • kafka如何在运行中增加分区并重新分配副本

    1.扩容 在新的物理机上安装kafka程序,修改config/server.properties文件里的broker.id必须在集群中唯一,修改其他必要的配置项,其中zookeeper.connect配置项,写上kafka集群现在使用的zookeeper集群的地址。 然后启动kafka就可以加入到集群中了。 但是新加入的机器只能对新产生的topic起作

    2024年02月10日
    浏览(40)
  • Kafka3.0.0版本——手动调整分区副本示例

    四台服务器 原始服务器名称 原始服务器ip 节点 centos7虚拟机1 192.168.136.27 broker0 centos7虚拟机2 192.168.136.28 broker1 centos7虚拟机3 192.168.136.29 broker2 centos7虚拟机4 192.168.136.30 broker3 2.1、先启动zookeeper集群 启动zookeeper集群 2.2、再启动kafka集群 启动kafka集群 3.1、手动调整分区副本的前提

    2024年02月11日
    浏览(56)
  • Docker中Kafka容器创建/更新Topic支持多分区

    自行通过docker部署好kafka,并启动相关容器。 假设Topic为http_capture。 检测Kafka运行正常后,如果Topic为http_capture的主题存在,则更新分区为5个,若不存在Topic,则新建。

    2024年04月26日
    浏览(45)
  • Kafka系列之:记录一次Kafka Topic分区扩容,但是下游flink消费者没有自动消费新的分区的解决方法

    生产环境Kafka集群压力大,Topic读写压力大,消费的lag比较大,因此通过扩容Topic的分区,增大Topic的读写性能 理论上下游消费者应该能够自动消费到新的分区,例如flume消费到了新的分区,但是实际情况是存在flink消费者没有消费到新的分区 出现无法消费topic新的分区这种情况

    2024年02月14日
    浏览(56)
  • kafka中topic的部分分区leader为none,怎样解决?

      (以Hadoop的topic为例) 进入Zookeeper客户端查看kafka存储的信息,/kafka/brokers/topics/hadoop/partitions/1/state get /kafka/brokers/topics/hadoop/partitions/1/state 查看到 {\\\"controller_epoch\\\":33,\\\"leader\\\":-1,\\\"version\\\":1,\\\"leader_epoch\\\":25,\\\"isr\\\":[3]}  leader为-1,固分区的leader为none 修改/kafka/brokers/topics/hadoop/partitions/

    2024年02月03日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包