【Java Web】Kafka,构建TB级异步消息系统

这篇具有很好参考价值的文章主要介绍了【Java Web】Kafka,构建TB级异步消息系统。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1. 阻塞队列

  • BlockingQueue
    • 解决线程通信的问题;
    • 阻塞方法:put从队列中存一个 , take 从队列中拿出一个
  • 生产者消费者模式
    • 生产者:产生数据的线程;
    • 消费者:使用数据的线程。
  • 实现类
    • ArrayBlockingQueue
    • LinkedBlockingQueue
    • ProrityBlockingQueueSynchronousQueueDelayQueue

【Java Web】Kafka,构建TB级异步消息系统,java,java,前端,kafka

  • 阻塞队列充当了生产者(Thread-1)和消费者(Thread-2)之间的桥梁;
  • 若Blocking Queue满了,将阻塞生产者,线程1陷入等待;
  • 若Blocking Queue空了,将阻塞消费者,线程2陷入等待;
  • 因此,可以防止系统资源被浪费。

2. Kafka入门

  • Kafka简介
    • kafka 是一个分布式的流媒体平台;
    • 应用:消息系统、日志收集、用户行为追踪、流式处理。
  • Kafka特点
    • 高吞吐量、消息持久化、高可靠性、高扩展性
  • Kafka术语
    • Broker(一个服务器)、Zookeeper(集群)
    • Topic(文件夹)、Partition(分区,提高容错率)、Offset(在分区中的位置)
    • Leader Replica(主副本,如果需要从分区获取数据,主副本可以响应)、Follower Replica(随从副本,备份)

-卡夫卡能处理海量数据(高吞吐量),因为卡夫卡将数据存在硬盘此类的介质里,而硬盘比内存的价格低廉,所以它可以持久化。卡夫卡的分布式保证了高可靠性。如果想要加入新服务器,只需简单的配置,因此具有高扩展性

【1】Mac 启动Zookeeper:

./zookeeper-server-start.sh ../config/zookeeper.properties &

【2】启动Kafka:

./kafka-server-start.sh ../config/server.properties &

【3】创建Topic

./kafka-topics.sh --bootstrap-server localhost:9092 --create --topic javaTopic --partitions 2 --replication-factor 1

replication-factor:指定副本数量
partitions:指定分区

【4】查看Topic

./kafka-topics.sh --bootstrap-server localhost:9092 --list

【5】删除Topic

./kafka-topics.sh --bootstrap-server localhost:9092 --delete -topic javaTopic

【6】生产消费数据
【6-1】生产者

./kafka-console-producer.sh --broker-list localhost:9092 --topic javaTopic

【6-2】消费者文章来源地址https://www.toymoban.com/news/detail-708819.html

./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic javaTopic --from-beginning

到了这里,关于【Java Web】Kafka,构建TB级异步消息系统的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 模仿淘宝购物系统的Java Web前端项目(开源项目)

    提示:此项目仅作为本博主的学习笔记记录,不作为商品售卖,资源往下翻看源码获取 提示:这里可以添加本文要记录的大概内容: 本项目要求完成Java Web的开发环境准备,以及项目开发框架的搭建 Web开发环境准备,包括eclipse、MySQL、tomcat Web项目框架搭建,涉及jsp、servle

    2024年02月11日
    浏览(37)
  • Java集成消息队列Kafka

    在使用Maven构建Java项目时,你可以通过添加Kafka的Maven依赖来引入Kafka相关的库。下面是Kafka的Maven坐标: 将上述依赖坐标添加到你的项目的pom.xml文件中,即可下载并引入Kafka客户端库。请注意,版本号可能会有所不同,你可以根据自己的需求选择最合适的版本。 另外,如果你

    2024年01月18日
    浏览(33)
  • 【学习笔记】Java——消息队列kafka

    1、Kafka combines three key capabilities: To publish (write) and subscribe to (read) streams of events, including continuous import/export of your data from other systems. To store streams of events durably and reliably for as long as you want. To process streams of events as they occur or retrospectively. And all this functionality is provided in a distr

    2024年02月09日
    浏览(33)
  • 【Java面试丨消息中间件】Kafka

    1. 介绍 使用kafka在消息的收发过程都有可能会出现消息丢失 (1)生产者发送消息到broker丢失 (2)消息在broker中存储丢失 (3)消费者从broker接收消息丢失 2. 生产者发送消息到broker丢失 设置异步发送:同步发送会发生阻塞,一般使用异步发送方式发送消息 消息重试:由于网

    2024年02月11日
    浏览(34)
  • JAVA实时获取kafka各个主题下分区消息的消费情况

    通过指定 主题 和 消费者组 调用方法,实时查看主题下分区消息的消费情况(消息总数量、消费消息数量、未消费的消息数量)。

    2024年02月13日
    浏览(45)
  • 【注意】Kafka生产者异步发送消息仍有可能阻塞

    Kafka是常用的消息中间件。在Spring Boot项目中,使用KafkaTemplate作为生产者发送消息。有时,为了不影响主业务流程,会采用 异步 发送的方式,如下所示。 本以为采用异步发送,必然不会影响到主业务流程。但实际使用时发现,在第一次发送消息时,如果Kafka Broker连接失败,

    2023年04月13日
    浏览(68)
  • 【kafka】Java客户端代码demo:自动异步提交、手动同步提交及提交颗粒度、动态负载均衡

    kafka版本为3.6,部署在3台linux上。 maven依赖如下: 生产者、消费者和topic代码如下: 这里先简单解释一下, kafka的topic只是一个逻辑上的概念,实际上的物理存储是依赖分布在broker中的分区partition来完成的 。kafka依赖的zk中有一个 __consumer_offsets [1]话题,存储了所有consumer和g

    2024年01月19日
    浏览(40)
  • 32个Java面试必考点-09(上)消息队列Kafka架构与原理

    本课时主要讲解消息队列与数据库相关的知识,重点讲解三部分知识点: 1.Kafka 的架构与消息交互流程; 2.数据库事务的 4 大特性和分类; 3.MySQL 相关的内容,比如索引、MySQL 调优等。 消息队列与数据库知识点 先来看看相关知识点汇总,如下图。首先为了防止歧义进行说明

    2024年02月20日
    浏览(29)
  • JAVA面试题分享一百六十二:Kafka消息重复消费问题?

    消息重复消费的根本原因都在于:已经消费了数据,但是offset没有成功提交。 其中很大一部分原因在于发生了再均衡。 1)消费者宕机、重启等。导致消息已经消费但是没有提交offset。 2)消费者使用自动提交offset,但当还没有提交的时候,有新的消费者加入或者移除,发生

    2024年02月03日
    浏览(36)
  • SpringBoot对接kafka,批量、并发、异步获取消息,并动态、批量插入库表

    SpringBoot对接kafka,批量、并发、异步获取消息,并动态、批量插入库表  更多优秀文章,请扫码关注个人微信公众号或搜索“ 程序猿小杨 ”添加。 一、背景         因业务发展需要,需要对接kafka,快速批量接收消息日志,避免消息日志累积过多,必须做到数据处理后,动态

    2024年02月10日
    浏览(26)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包