【kafka 监控】Kafka_exporter+prometheus 监控kafka数据

这篇具有很好参考价值的文章主要介绍了【kafka 监控】Kafka_exporter+prometheus 监控kafka数据。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、kafka_exporter 安装步骤:
Kafka_exporter是一款用于将Kafka集群的监控指标暴露给Prometheus的开源工具,可以用于监控Kafka集群的各种状态数据。下面是Kafka_exporter的安装和部署步骤:

环境准备
Java环境:Kafka_exporter需要Java环境支持,您可以在Oracle官网下载和安装Java的最新版本。
Kafka版本:Kafka_exporter支持Kafka 0.8.x到Kafka 2.x版本,您需要根据自己的Kafka版本选择相应的Kafka_exporter版本。
下载Kafka_exporter
您可以在Kafka_exporter的官方网站(https://github.com/danielqsj/kafka_exporter/releases)上下载最新版本的Kafka_exporter。

配置Kafka_exporter
将下载的Kafka_exporter压缩包解压后,进入Kafka_exporter的conf目录,编辑kafka.yml文件,配置相应的参数,例如:

global:
  scrape_interval:     15s
  evaluation_interval: 15s

server:
  port: 9308

kafka:
  - host: "localhost"
    port: 9092
    version: "2.2.0"

其中,global配置指定了数据采集的时间间隔;server配置指定了Kafka_exporter的暴露端口;kafka配置指定了Kafka集群的地址和版本。

启动Kafka_exporter
在Kafka_exporter的bin目录下,执行以下命令启动Kafka_exporter:

./kafka_exporter.sh start

启动成功后,Kafka_exporter会将采集到的监控指标数据暴露给Prometheus。您可以在Prometheus的配置文件中添加以下内容来抓取Kafka_exporter暴露的指标:

scrape_configs:
  - job_name: 'kafka'
    scrape_interval: 15s
    static_configs:
      - targets: ['localhost:9308']

以上配置指定了Prometheus抓取Kafka_exporter暴露的监控指标数据,并以15秒的时间间隔进行采集。

总之,安装和部署Kafka_exporter需要先准备好环境和配置文件,并启动Kafka_exporter将监控数据暴露给Prometheus。通过Prometheus的查询和可视化功能,您可以对Kafka集群进行监控和管理,以保证Kafka集群的稳定性和高可用性

二、Kafka_exporter暴露的监控指标数据
Kafka_exporter是一个开源的Kafka监控指标采集程序,它将采集到的监控指标数据暴露给Prometheus,供Prometheus进行数据存储、查询、分析和可视化。以下是一些常用的PromSQL语句,可以用来查询Kafka_exporter暴露的监控指标数据:

查询Kafka集群的Broker数量:

kafka_broker_count

查询指定Kafka主题的分区数量:

kafka_topic_partition_count{topic="your_topic_name"}

查询指定Kafka分区的Leader副本ID:

kafka_partition_leader{topic="your_topic_name",partition="your_partition_id"}

查询指定Kafka主题的消息生产情况:

rate(kafka_topic_log_size{topic="your_topic_name"}[1h])

查询指定Kafka消费者组的消费速率:

sum(rate(kafka_consumer_records_consumed_total{group_id="your_group_id"}[1m]))

注意,以上仅是一些常用的PromSQL语句,您可以根据自己的需求和实际情况,编写更加复杂和具有针对性的查询语句。同时,您也可以在Prometheus中使用图形化界面来构建和执行查询语句,以获得更加可视化和直观的查询结果。文章来源地址https://www.toymoban.com/news/detail-467978.html

到了这里,关于【kafka 监控】Kafka_exporter+prometheus 监控kafka数据的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • kafka_exporter部署

    kafka_exporter是prometheus官方提供的用于监控kafka运行状态的exporter 系统 版本 CentOS 7.6.1810 (Core) CPU/内存 4核、8G kafka_exporter 1.6.0 kafka_exporter ID: 7589 参考 prometheus部署 以上是centos上边部署kafka_exporter监控kafka的方法,有问题联系博主,后续也有其他插件

    2023年04月08日
    浏览(63)
  • dcgm-exporter + prometheus + kafka-adapter采集GPU容器监控

    项目地址:https://github.com/NVIDIA/dcgm-exporter dcgm-exporter主要用于将nvidia gpu的监控数据导出到prometheus里,符合prometheus的exporter规范。 deployment/templates/metrics-configmap.yaml定义了采集的指标名及具体含义,我们的场景下主要关注GPU和显存指标。 helm文档:https://helm.sh/zh/docs/ dcgm-exporte

    2024年02月13日
    浏览(39)
  • prometheus监控kafka

    一、前言    关于对kafka的监控,要求高的话可以使用kafka-exorter和jmx-exporter一起收集监控数据,要求不高的情况下可以使用kafka-exporter收集监控数据即可 二、部署 kafka-exporter    部署kafka-exporter,我是在k8s集群中部署的    编辑yaml文件    vi kafka_exporter.yaml     在k8s集群中执

    2024年02月08日
    浏览(40)
  • Prometheus实战教程:监控Kafka消息

    今天我们使用prometheus+Grafana+kafka_exporter+kafka实现监控Kafka运行状态。 kafka_exporter:采集kafka各项指标数据 prometheus:获取kafka_exporter数据 Grafana:展示prometheus采集的数据 如何使用prometheus和Grafana监控Kafka运行状态呢,请君继续往下看。 一、Kafka简介 (1)Kafka基本概念        K

    2024年02月16日
    浏览(41)
  • jmx_exporter监控kafka和zk的jvm

    GitHub - prometheus/jmx_exporter: A process for exposing JMX Beans via HTTP for Prometheus consumption wget https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.16.1/jmx_prometheus_javaagent-0.16.1.jar 可以通过java.lang 采集机器cpu 内存等基础信息 cat \\\"EOF\\\" common.yaml ---    lowercaseOutputLabelNames: true lowercaseOut

    2024年02月19日
    浏览(41)
  • Grafana Prometheus 通过JMX监控kafka

    目前网上关于使用Prometheus 监控kafka的大部分资料都是使用一个第三方的 kafka exporter,他的原理大概就是启动一个kafka客户端,获取kafka服务器的信息,然后提供一些metric接口供Prometheus使用,随意它能展示的监控信息比较有限,只有每个主题的分区数,每秒/分钟消息数,消费组

    2024年02月13日
    浏览(44)
  • Prometheus监控之SNMP Exporter介绍和数据展现

    由于技术能力有限,文章仅能进行简要分析和说明,如有不对的地方,请指正,谢谢🙂。 SNMP协议全称是:Simple Network Management Protocol,译为简单网络管理协议,是作为TCP/IP网络管理标准协议,为不同的设备提供统一接口,实现了网络设备之间的统一管理。 SNMP协议分为三个版

    2023年04月26日
    浏览(46)
  • Grafana Prometheus 通过JMX监控kafka 【2023最新方式】

    目前网上关于使用Prometheus 监控kafka的大部分资料都是使用一个第三方的 kafka exporter,他的原理大概就是启动一个kafka客户端,获取kafka服务器的信息,然后提供一些metric接口供Prometheus使用,随意它能展示的监控信息比较有限,只有每个主题的分区数,每秒/分钟消息数,消费组

    2024年02月13日
    浏览(59)
  • 【大数据监控】Prometheus、Node_exporter、Graphite_exporter安装部署详细文档

    Prometheus是一个开源的系统监控和报警系统,现在已经加入到CNCF基金会,成为继k8s之后第二个在CNCF托管的项目,在kubernetes容器管理系统中,通常会搭配prometheus进行监控,同时也支持多种exporter采集数据,还支持pushgateway进行数据上报,Prometheus性能足够支撑上万台规模的集群。

    2023年04月08日
    浏览(41)
  • 超详细教程:Centos安装Prometheus、Grafana监控Kafka及Linux主机

    下载 node_exporter 解压到指定 /app/exporter 编写管理脚本 control_node_exporter.sh ,并给予权限  chmod + x control_node_exporter.sh ,脚本内容如下: 执行命令:   查看同级目录下的 node_exporter.log 日志 浏览器访问  host:9100 ,是否看到下面的页面 出现如上的界面,表示此部分的部署成功。

    2024年02月04日
    浏览(50)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包