Elasitcsearch CPU 使用率突然飙升,怎么办?

这篇具有很好参考价值的文章主要介绍了Elasitcsearch CPU 使用率突然飙升,怎么办?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1、引言

本系列文章介绍如何修复 Elasticsearch 集群的常见错误和问题。

这是系列文章的第二篇,主要探讨:Elasitcsearch CPU 使用率突然飙升,怎么办?

2、Elasticsearch 高CPU 使用率的内涵

线上环境 Elasticsearch CPU 使用率飙升常见问题如下:

Elasitcsearch CPU 使用率突然飙升,怎么办?

——来自《死磕Elasticsearch 知识星球》

Elasticsearch 使用线程池来管理并发操作的 CPU 资源。

关于线程池和队列,推荐阅读:Elasticsearch 线程池和队列问题,请先看这一篇。

Elasticsearch 高 CPU 使用率通常意味着一个或多个线程池不足以支撑业务需求。

如果线程池资源耗尽,Elasticsearch 将拒绝与线程池相关的请求。

例如,如果搜索线程池(search thread pool)耗尽,Elasticsearch 将拒绝搜索请求,直到有更多线程可用。

Elasitcsearch CPU 使用率突然飙升,怎么办?

上图更直观的解释了线程池、队列、客户端请求之间的关系,拿检索线程为例:

  • 当请求比较少时,线程池完全可以处理过来;

  • 当前再多一些时,需要线程池队列排队;

  • 如果请求再多,就超出了线程池和队列的最大负载,导致异常报错

3、诊断 Elasticsearch 高 CPU 使用率

3.1 核查 CPU 使用率

使用  cat nodes API 获取每个节点的当前 CPU 使用率。

GET _cat/nodes?v=true&s=cpu:desc

返回结果:

Elasitcsearch CPU 使用率突然飙升,怎么办?

如上所示,CPU 即为 cpu 使用率,name 为节点的名称。

也可以借助 Kibana Stack Monitoring 进行可视化监控,CPU 监控如下红圈所示:

Elasitcsearch CPU 使用率突然飙升,怎么办?

3.2 核查热点线程

如果某个节点的 CPU 使用率很高,请使用节点热点线程 API 检查该节点上运行的资源密集型线程。

GET _nodes/my-node,my-other-node/hot_threads

此 API 以纯文本形式返回任何热点线程的细节。

4、降低 CPU 使用率的实操方案

以下 Tips 概述了 CPU 使用率高的最常见原因及其解决方案。

4.1 扩展集群

  • 繁重的数据写入(indexing)和搜索负载会耗尽较小的线程池。

  • 为了更好地处理繁重的工作负载,向集群添加更多节点或升级(扩容)现有节点以增加容量。

4.2 分散批量请求

批量请求虽然比单个请求效率更高,但大型批量写入或多搜索请求需要大量 CPU 资源。

如果可能,提交较小的请求并在它们之间留出更多时间。

这里的较小有多小?需要结合业务实际、结合线程池和队列大小不断调出最优值。

4.3 取消长时间运行的搜索

长时间运行的搜索会阻塞搜索线程池中的线程。

要检查这些搜索,请使用任务管理 API。

GET _tasks?actions=*search&detailed

上述命令行响应的描述包含检索请求及其查询细节,其中:running_time_in_nanos 显示搜索运行了多长时间。

{
  "nodes" : {
    "oTUltX4IQMOUUVeiohTt8A" : {
      "name" : "my-node",
      "transport_address" : "127.0.0.1:9300",
      "host" : "127.0.0.1",
      "ip" : "127.0.0.1:9300",
      "tasks" : {
        "oTUltX4IQMOUUVeiohTt8A:464" : {
          "node" : "oTUltX4IQMOUUVeiohTt8A",
          "id" : 464,
          "type" : "transport",
          "action" : "indices:data/read/search",
          "description" : "indices[my-index], search_type[QUERY_THEN_FETCH], source[{\"query\":...}]",
          "start_time_in_millis" : 4081771730000,
          "running_time_in_nanos" : 13991383,
          "cancellable" : true
        }
      }
    }
  }
}

可以使用 _cancel API 取消任务以释放资源:

POST _tasks/oTUltX4IQMOUUVeiohTt8A:464/_cancel

4.4 避免耗费资源的搜索

举例:前缀匹配的 wildcard 查询、多重聚合或分桶设置过大的单重聚合都会非常耗费资源。

避免策略包含但不限于:

  • 避免脚本 script 检索。

  • 少使用:fuzzyregexpprefixwildcard检索

  • 避免将 range 检索应用到 textkeyword 类型。

  • 避免多表关联 Join 类型。

  • 使用 index.max_result_window 索引设置降低大小限制。

  • 使用 search.max_buckets 集群设置降低允许的聚合桶的最大数量。

  • 使用 search.allow_expensive_queries 集群设置禁用耗费资源的查询。

5、小结

建议提前做好集群监控和指标预警工作,“防范于未然”,结合节点的 CPU 核数最大化的提升线程池和队列的使用率。

你在实战环节有没有遇到高 CPU 利用率问题?你是如何解决的呢?欢迎留言交流细节。

和你一起,死磕 Elasticsearch!

参考

1.  https://www.elastic.co/guide/en/elasticsearch/reference/current/query-dsl.html#query-dsl-allow-expensive-queries

2. https://www.elastic.co/guide/en/elasticsearch/reference/current/fix-common-cluster-issues.html#avoid-expensive-searches

3. https://www.elastic.co/guide/en/elasticsearch/reference/current/fix-common-cluster-issues.html 4. https://qbox.io/blog/thread-pools-elasticsearch-search-request-errors/

推荐

1、重磅 | 死磕 Elasticsearch 方法论认知清单(2021年国庆更新版)

2、Elasticsearch 7.X 进阶实战私训课(口碑不错)

3、如何系统的学习 Elasticsearch ?

4、Elasticsearch 磁盘使用率超过警戒水位线,怎么办?

Elasitcsearch CPU 使用率突然飙升,怎么办?

更短时间更快习得更多干货!

已带领88位球友通过 Elastic 官方认证!

Elasitcsearch CPU 使用率突然飙升,怎么办?

比同事抢先一步学习进阶干货!文章来源地址https://www.toymoban.com/news/detail-453374.html

到了这里,关于Elasitcsearch CPU 使用率突然飙升,怎么办?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • qt使用QCustomplot绘制cpu和内存使用率图

                QCustomPlot是一个开源的Qt C++图表库,用于可视化数据。该库提供了多种类型的可定制的图表,包括散点图、线图、柱状图和等高线图等。它还支持自定义绘制,可以创建任意形状和大小的元素,并使其与其他元素交互。QCustomPlot易于集成到现有的Qt应用程序中

    2024年02月09日
    浏览(50)
  • cpu load与cpu使用率与线程的5种状态

    cpu load值是正在运行和就绪等待状态线程数之和。 load越大,说明线程竞争时间片越激烈,线程等待队列越长。 对于8核系统,如果load为10,说明8个线程正在执行,2个线程等待时间片。 cpu利用率 load越大,cpu使用率越高吗? 不一定,如果线程是执行IO这种,线程拿到时间片后

    2024年02月01日
    浏览(52)
  • Android 性能优化 命令行查看CPU使用率

    本文介绍cpu使用率概念,和使用ps命令、top命令和dumpsys cpuinfo命令来查看cpu使用率,帮助我们了解应用程序在运行过程中的整体状态和各个线程状态。 CPU利用率指系统中CPU的使用情况,通常以百分比表示CPU使用率。 在多核情况下,CPU使用率指的是所有核心的平均使用率。 通

    2024年02月05日
    浏览(55)
  • Linux提高CPU及内存使用率的脚本

    测试或运维中,有时会特意提高CPU及内存使用率,观察运行情况,以下脚本供参考。 链接1: Linux tmpfs及消耗内存脚本 链接2: Linux 中的 /dev/null 和 /dev/zero 链接3: Linux 提高CPU占用率的脚本

    2024年02月13日
    浏览(48)
  • Linux-提高CPU、内存使用率shell脚本

    目录 1、提升CPU利用率 (1)构造CPU达到100% (2) 结束命令 2、提高内存利用率 可以申请的内存 申请内存空间: 完成后释放内存: 3、 使用ChaosBlade工具 cpu注入: 内存注入: (1)构造CPU达到100% for i in `seq 1 $(cat /proc/cpuinfo |grep \\\"physical id\\\" |wc -l)`; do dd if=/dev/zero of=/dev/null done (

    2024年02月04日
    浏览(70)
  • 记1次前端性能优化之CPU使用率

    碰到这样的一个问题,用户反馈页面的图表一直加载不出来,页面还卡死 打开链接页面,打开控制台 Network 看到有个请求一直pending,结合用户描述,页面一直loading,似乎验证了我的怀疑:后端迟迟没有相应。 但是,还有个现象,页面卡死了,后端没响应怎么能导致页面卡死

    2024年02月10日
    浏览(47)
  • oracle rac 12.2.0.1CPU使用率100%

    oracle rac 12.2.0.1 CPU使用率100% 查看是集群的java进程\\\"oracle.ops.opsctl.OPSCTLDriver config database\\\"占用cpu 根据进程号查找父进程,发现是/oracle/GRID/122/perl/bin/perl /oracle/GRID/122/tfa/gcmproddb01/tfa_home/bin/tfactl.pl rediscover -mode full -auto tfa相关的进程,tfa可以停用 停用后恢复正常 /etc/init.d/init.tfa --he

    2024年01月20日
    浏览(74)
  • Java CPU或内存使用率过高问题定位教程

    Spring cloud微服务广泛应用后,服务的监控和运维压力也与日俱增,经常有服务出现CPU或者内存使用率过高的告警,那么遇到这样的问题我们该如何排查呢?我们可以借助哪些工具来定位问题呢?本文将介绍一下遇到此类问题的解决思路和方法。 1.通过应用日志定位思路 对于业

    2024年03月28日
    浏览(58)
  • linux top命令中 cpu 利用率/mem 使用率与load average平均负载计算方式

    top 命令是 Linux 上一个常用的系统监控工具,它经常用来监控 Linux 的系统状态,是常用的性能分析工具,能够显示较全的系统资源信息,包括系统负载,CPU 利用分布情况,内存使用,进程资源占用情况等。 如下示例: 这里主要看进程的 CPU%, MEM% 和 load averge 字段。 该字段指

    2024年02月03日
    浏览(53)
  • java获取系统CPU和内存使用率的三种方法

    获取系统CPU和内存的三种方法: 1、使用OperatingSystemMXBean获取 2、使用sigar方法获取 3、使用oshi方法获取 以下是我在我的机子上对三种方法测试的比较 方法    准确率 OperatingSystemMXBean    获取的内存数据准确,CPU差距有点大 sigar    获取的内存数据稍微有点差距,CPU相对

    2024年04月13日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包