offset的默认维护位置
0.9版本之前:consumer默认将offset保持在zookeeper中
从0.9版本开始,consumer默认将offset保存在kafka一个内置的topic中,该topic为__consumer_offsets
__consumer_offsets 主题里面采用key和value方式存储数据,key是group.id+topic+分区号,value就是当前offset的值。每隔一段时间,kafka内部会对这个topic进行compact,也就是每隔group.id+topic+分区号就保留最新的数据
$KAFKA_HOME/bin/kafka-console-consumer.sh --topic __consumer_offsets --bootstrap-server hadoop100:9092 --consumer.config $KAFKA_HOME/config/consumer.properties --formatter "kafka.coordinator.group.GroupMetadataManager\$OffsetsMessageFormatter" --from-beginning
如果看不到
在配置文件 config/consumer.properties 中添加配置 exclude.internal.topics=false,
默认是 true,表示不能消费系统主题。为了查看该系统主题数据,所以该参数修改为 false。文章来源:https://www.toymoban.com/news/detail-550587.html
自动提交offset
文章来源地址https://www.toymoban.com/news/detail-550587.html
到了这里,关于Kafka入门,offset的默认维护位置(二十一)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!