Elasticsearch:图解写入流程

这篇具有很好参考价值的文章主要介绍了Elasticsearch:图解写入流程。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、Elasticsearch概述:

        Elasticsearch是一个功能强大、性能高效、易于使用和扩展的分布式搜索和分析引擎,已被广泛应用于日志分析、企业搜索、电子商务等领域。

Elasticsearch是一个基于Lucene的分布式搜索和分析引擎,它能够快速存储、搜索和分析大量的数据。它支持多种数据类型的存储和检索,包括结构化、半结构化和非结构化数据。Elasticsearch具有以下特点:

  1. 分布式架构:Elasticsearch是一个分布式系统,数据可以分散在多个节点上,从而提高了数据的可用性和可扩展性。

  2. 实时搜索和分析:Elasticsearch支持实时搜索和分析,可以快速响应查询请求,帮助用户快速地找到需要的信息。

  3. 支持多种数据源:Elasticsearch支持多种数据源的数据导入和同步,包括数据库、日志文件、网络数据等。

  4. 易于使用和扩展:Elasticsearch具有易于使用和扩展的特点,通过简单的API可以实现搜索、聚合、过滤等多种功能,同时也支持插件扩展,可以方便地实现自定义功能。

  5. 开源免费:Elasticsearch是一个开源的软件,可以免费使用和部署,同时也有丰富的社区支持和文档资料。

二、理解Elasticsearch写入过程的必要性:

        学习Elasticsearch的写入过程可以帮助我们更好地理解和应用这项技术,从而优化其性能,提高数据的可用性和可扩展性,实现更高效的搜索和分析。

  1. 更好地理解Elasticsearch的工作原理:通过学习Elasticsearch的写入过程,可以深入了解Elasticsearch是如何处理和存储数据的,有助于更好地理解其工作原理。

  2. 提高数据的可用性和可扩展性:Elasticsearch将索引数据分成多个分片,每个分片可以分布在不同的节点上,这样可以提高数据的可用性和可扩展性。

  3. 优化写入性能:了解Elasticsearch的写入过程可以帮助我们优化写入性能,例如通过合理的分片策略、调整刷新间隔等方式提高写入效率。

  4. 提高搜索效率:Elasticsearch的搜索效率与其写入效率密切相关,通过了解写入过程,可以更好地优化搜索效率,例如通过合理的分片策略、调整合并策略等方式提高搜索效率。

三、Elasticsearch写入流程图:

c#日志写入elasticsearch,Elasticserach,elasticsearch,搜索引擎,全文检索

四、Elasticsearch写入流程简述:

  1. 客户端将数据序列化后以http的方式发送到elasticsearch api端点;

  2. elasticsearch api端点以http的方式发送至协调节点;

  3. 协调节点通过路由规则讲写入请求发送至数据节点;

  4. 数据节点将写入请求落在主分片上;

  5. 主分片将序列化之后的数据转成字节流写入translog buffer;

  6. 当translog buffer被填满时,将所有日志写入translog进行持久化,并清空translog buffer;

  7. 当文档数量与时间间隔达到规定阈值时,进行flush操作,创建一个新的文件segment,将translog buffer的数写入segment;

  8. 当分片中segment的数量操作一定阈值时(默认10),当前数据节点会在内存中开辟一个空间,叫做segment merge cache ,会把将要合并的segment的内容读取写入新的段文件,这个段文件存储在merge directory;

  9. 最终这个merge directory会落盘,叫做merged segment;

  10. merged segment所属主分片会进行广播,通知它的副本分片有一个新的段;

  11. 这些副本分片收到广播后,会检查是否缺少这个新的段,如果缺少,副本分片会将存储在事务日志中的写操作应用到新的段中;

  12. 待副本分片写入完成后,通知主分片写入完成;

  13. 主分片以http的方式发送写入完成的信息给elasticsearch api端点;

  14. elasticsearch api端点再将结果信息返回给客户端;文章来源地址https://www.toymoban.com/news/detail-801741.html

到了这里,关于Elasticsearch:图解写入流程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Elasticsearch进阶篇(一):Elasticsearch写入原理深入详解

    引用官方文档地址:分片内部原理 | Elasticsearch: 权威指南 | Elastic 索引是 Elasticsearch 存储、组织和搜索数据的逻辑容器。它类似于 MySQL 中的 数据表 ,一个 Elasticsearch 集群可以包含多个索引。从 Elasticsearch 7.x 开始,Elasticsearch 不再支持多个 type且默认为_doc,并在之后的版本中

    2024年04月10日
    浏览(53)
  • Elasticsearch写入数据之elasticsearch-java

    在《Elasticsearch8.4.2在windows系统下的安装介绍》中介绍了如何安装ES,那么安装成功后改如何将数据写入到ES呢?写入ES数据的方式有很多,本次将介绍一种写入方式elasticsearch-java来写入数据到ES,elasticsearch-java是官方提供的java sdk写入方式,用户只需要配置相关参数就可以方便

    2024年02月11日
    浏览(48)
  • 【ElasticSearch】 ElasticSearch serverless架构介绍(查询写入分离,计算存储分离)

    ElasticSearch 推出了全新的serverless架构,将查询(search)和写入(indexing)分离,将计算(computing)和存储(storage)分离,极大提高了 ES 的可运维性,降低了学习成本。本文将先介绍下serverless含义,再介绍ElasticSearch serverless架构。 在serverless架构下,用户只需关注业务逻辑,无需管理服务

    2024年01月24日
    浏览(49)
  • C# 快速写入日志 不卡线程 生产者 消费者模式

    有这样一种场景需求,就是某个方法,对耗时要求很高,但是又要记录日志到数据库便于分析,由于访问数据库基本都要几十毫秒,可在方法里写入BlockingCollection,由另外的线程写入数据库。 可以看到,在我的机子上面,1ms写入了43条日志。

    2024年02月15日
    浏览(55)
  • elasticSearch写入原理

    最近学习完了es相关的课程整理除了es的核心内容,学习这东西知其然知其所以然,自己按照自己的理解整理了es相关的面试题。先热个身,整理一下es的写入原理,有不对的地方请大家指正。 这些原理的东西我觉得还是流程图比较好理解一点,先从流程图开始吧 一、es 写入流

    2024年02月10日
    浏览(43)
  • Elasticsearch:数据写入

    Elasticsearch(简称ES)是一个开源的分布式搜索和分析引擎,广泛应用于日志分析、全文搜索、实时数据分析等场景。在使用ES时,了解数据写入的流程和原理对于优化性能和确保数据一致性至关重要。本文将详细介绍ES的数据写入流程,包括数据准备、索引创建、文档写入和刷

    2024年02月14日
    浏览(42)
  • Elasticsearch 基本使用(一)写入数据

    my_index :索引名 _doc :文档类型,现在只有一个类型,都是_doc 1 :文档id(PUT时,必须,POST时不是必须) PUT 为修改操作; 必须指定文档id POST 为保存操作; 指定id时,以该id保存;id存在则修改,不存在则新增。 未指定id时,直接新增,并随机生成一个id。 写入数据时,如果

    2024年02月10日
    浏览(50)
  • Elasticsearch:数据是如何被写入的?

    在我之前的文章 “Elasticsearch:索引数据是如何完成的”,我详述了如何索引 Elasticsearch 的数据的。在今天的文章中,我将从另外一个视角来诠释如何写入数据到 Elasticsearch。更多关于 Elasticsearch 数据操作,请阅读文章 “Elasticsearch:彻底理解 Elasticsearch 数据操作”。 发送写请

    2024年02月08日
    浏览(37)
  • Elasticsearch并发写入版本冲突解决方案

    搜索公众号, AmCoder 干货及时送达👇  众所周知,es经常被用于存储日志数据,其中在某些场景下,日志产生的时机不同,并且需要将多类具备关联关系的日志写入同一个document,就会带来同一个文档可能会被其它文档覆盖,或者missing等问题。 大家都知道es是不支持事务的,

    2023年04月19日
    浏览(54)
  • ElasticSearch--优化写入速度的方法--修改配置

    原文网址:ElasticSearch--优化写入速度的方法--修改配置_IT利刃出鞘的博客-CSDN博客 说明         本文介绍如何优化ElasticSearch的写入性能。 相关网址 ElasticSearch--写入数据的流程(原理)_IT利刃出鞘的博客-CSDN博客 方案说明         下边的方案,有的比较推荐改动,有的不推荐改

    2024年02月14日
    浏览(37)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包