优化记录 -- 记一次搜索引擎（SOLR）优化-Toy模板网

这篇具有很好参考价值的文章主要介绍了优化记录 -- 记一次搜索引擎（SOLR）优化。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

业务场景

某服务根据用户相关信息，使用搜索引擎进行数据检索

软件配置

solr 1台：32c 64g 数据10gb左右，版本 7.5.5
应用服务器1台：16c 64g
应用程序 3节点

问题产生现象

1、因业务系统因处理能不足，对业务系统硬件平台进行升级，升级变更为 16c64g —> 32c64g 增加 16c
2、业务系统升级，处理能力增加，对原搜索引擎服务器的qps有所提升，原qps 1500 提升至 2600左右
3、搜索引擎负载发生极大变化，从原始负载60左右，提升至85左右，远超预期

分析问题

应用层：

链接数未提升，仅提升qps，应该不会对solr 造成过大的影响

SOLR 层

分析缓存

检查os 剩余内存

使用 htop 观测剩余内存还有将近30g，因此决定调整 solr 相关缓存配置
优化记录 -- 记一次搜索引擎（SOLR）优化,笔记,多线程,调试,搜索引擎,solr,lucene

分析 SOLR 线程栈

1、使用 jstack pid >pid.jstack 导出solr 线程运行情况
2、通过 IBM JCA469.jar 分析工具，检查线程锁
优化记录 -- 记一次搜索引擎（SOLR）优化,笔记,多线程,调试,搜索引擎,solr,lucene
发现500+线程等待log锁

检查 solr 相关日志配置
发现 solr 7.5.5 使用 log4j2日志框架，且使用同步日志输出模式

调整方案

增加SOLR缓存，提升缓存命中率

原始配置

  <filterCache class="solr.FastLRUCache"
                 maxRamMB="2048"
                 autowarmCount="150000"/>

    <queryResultCache class="solr.LRUCache"
                      size="65536"
                      initialSize="65536"
                      autowarmCount="0"/>

    <documentCache class="solr.LRUCache"
                   size="65536"
                   initialSize="65536"
                   autowarmCount="0"/>

更新后配置

  <filterCache class="solr.FastLRUCache"
                 maxRamMB="2048"
                 autowarmCount="150000"/>

    <queryResultCache class="solr.LRUCache"
                      size="131070"
                      initialSize="131070"
                      autowarmCount="0"/>

    <documentCache class="solr.LRUCache"
                   size="131070"
                   initialSize="131070"
                   autowarmCount="0"/>

增加JVM 内存

Xmx16g ---> Xmx24g

使用全局异步日志打印日志输出

在 solr.in.sh 添加JVM启动参数

-Dlog4j2.contextSelector=org.apache.logging.log4j.core.async.AsyncLoggerContextSelector

调整后效果如下

os 负载情况

调整前
优化记录 -- 记一次搜索引擎（SOLR）优化,笔记,多线程,调试,搜索引擎,solr,lucene
调整后

线程锁情况

优化记录 -- 记一次搜索引擎（SOLR）优化,笔记,多线程,调试,搜索引擎,solr,lucene
调整后
文章来源地址https://www.toymoban.com/news/detail-752334.html

到了这里，关于优化记录 -- 记一次搜索引擎（SOLR）优化的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

优化记录 -- 记一次搜索引擎（SOLR）优化