通过es索引生命周期策略删除日志索引

这篇具有很好参考价值的文章主要介绍了通过es索引生命周期策略删除日志索引。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

通过es索引生命周期策略删除日志索引

在es 7.x版本之后,多了个索引生命周期的概念,可以一系列的设置,给新生成的索引绑定生命周期策略,到期后,索引自动删除。

也可以通过linux定时任务实现,请查看另一篇文章《通过linux定时任务删除es日志索引》

流程

  • 创建索引生命周期策略
  • 创建索引模板,与生命周期策略绑定,匹配新生成的索引,关联索引生命周期

操作

下面的操作也可以通过kibana来完成

创建索引生命周期策略

创建名称为auto_delete_policy 索引生命周期策略,索引7天后,自动删除。测试时,可以设置策略时间短点。

PUT /_ilm/policy/auto_delete_policy
{
	"policy": {
		"phases": {
			"delete": {
				"min_age": "7d",
				"actions": {
					"delete": {}
				}
			}
		}
	}
}

查询索引生命周期策略

GET /_ilm/policy/auto_delete_policy

创建索引模板

索引模板作为中间桥梁,把索引生命周期策略和索引关联起来,这里匹配 my、index 开头,新生成的索引

PUT _template/elk_template

{
	"index_patterns": [
		"my*",
		"index*"
	],
	"template": {
		"settings": {
			"index": {
				"lifecycle": {
					"name": "auto_delete_policy",
					"indexing_complete": "true"
				}
			}
		}
	}
}

创建索引模板(elk_tempalte),index.lifecycle.name 把上面的自动删除策略绑定到elk索引模板
后来新生成 my-、index- 开头的索引时就会应用这个模板。
indexing_complete:true,必须设为true,跳过HOT阶段的Rollover

查询索引模板

GET _template/elk_template

测试

测试设置
生命周期策略默认10分钟检测一次,为了方便测试,这里设为30s。后面改回来就可以了。

PUT /_cluster/settings
{
	"transient": {
		"indices.lifecycle.poll_interval": "30s"
	}
}

查看索引

查看新生成的索引,有没有关联到索引生命周期策略,
这里查看my-开头的索引情况

GET my-*/_ilm/explain

返回

{
	"indices": {
		"my-2023.08.30": {
			"index": "my-2023.08.30",
			"managed": true,
			"policy": "auto_delete_policy",
			"lifecycle_date_millis": 1693357650166,
			"age": "3.35d",
			"phase": "new",
			"phase_time_millis": 1693357650194,
			"action": "complete",
			"action_time_millis": 1693357650194,
			"step": "complete",
			"step_time_millis": 1693357650194,
			"phase_execution": {
				"policy": "auto_delete_policy",
				"version": 1,
				"modified_date_in_millis": 1692951002180
			}
		}
	}
}

参考官网索引管理章节文章来源地址https://www.toymoban.com/news/detail-698163.html

到了这里,关于通过es索引生命周期策略删除日志索引的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • elasticsearch 7.9.3知识归纳整理(五)之 es的索引生命周期管理

    一、常见概念及命令 1.1、概念 ILM定义了四个生命周期阶段: Hot :正在积极地更新和查询索引。 Warm :不再更新索引,但仍在查询。 cold :不再更新索引,很少查询。信息仍然需要可搜索,但是如果这些查询速度较慢也可以。 Delete :不再需要该索引,可以安全地将其删除

    2024年01月22日
    浏览(40)
  • Elasticsearch 索引模板、生命周期策略、节点角色(1),8年大数据开发开发教你如何写简历

    先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7 深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前! 因此收集整理了一份《2024年最新大数据全套学习资料》,

    2024年04月26日
    浏览(30)
  • Elasticsearch索引生命周期管理

    数据量非常大 经常访问新增的数据,随着时间的推移,数据的价值也在逐渐降低 随着数据量的增大,Elasticsearch创建索引的数量也在不断增长,这个时候就需要对 索引 进行一定策略的维护管理甚至是删除清理,否则随着数据量越来越多除了浪费磁盘与内存空间之外,还会严

    2024年02月04日
    浏览(25)
  • ElasticSearch索引生命周期管理--DELETE

    概要 ElasticSearch中的索引生命周期管理,也就是ilm(Manage the index lifecycle),是指定了索引在不同周期下的处理策略。 ilm 的对象是索引而不是索引中的数据。 ilm 包括四个阶段:hot 、warm、cold和delete。 hot、warm和cold表示索引的使用情况,delete可以指定索引完成rollover后的旧索引

    2024年02月13日
    浏览(28)
  • Elasticsearch-37.索引全生命周期管理及工具介绍

    时间序列的索引 特点 索引中的数据随着时间, 持续不断增长 按照时间序 列划分索引的好处挑战 按照时间进行划分索引, 会使得管理更加简单。例如,完整删除一个引, 性能比delete by query好: 如何进行自动化管理,减少人工操作 从Hot 移动到Warm 定期关闭或者删除索引 索引

    2023年04月10日
    浏览(25)
  • Elasticsearch ILM实现索引全生命周期自动管理,解放双手

    公众号: MCNU云原生 ,欢迎搜索关注,更多干货,第一时间掌握! 一、什么是Elasticsearch ILM? Elasticsearch Index Lifecycle Management(ILM)是Elasticsearch的一个功能,用于管理索引的生命周期,优化索引的性能和减少存储成本。ILM可以自动执行索引的各种操作,如创建、删除、滚动、

    2023年04月13日
    浏览(29)
  • 【云原生】k8s中Contrainer 生命周期回调/策略/指针学习

    个人主页: 征服bug-CSDN博客 kubernetes专栏: kubernetes_征服bug的博客-CSDN博客  目录 1 容器生命周期 2 容器生命周期回调/事件/钩子 3 容器重启策略 4 自定义容器启动命令 5 容器探针 1 容器生命周期 Kubernetes 会跟踪 Pod 中每个容器的状态,就像它跟踪 Pod 总体上的阶段一样。 你可

    2024年02月14日
    浏览(28)
  • Spring IOC之对象的创建方式、策略及销毁时机和生命周期且获取方式

    目录 一、对象的创建方式 1. 使用构造方法 2. 使用工厂类方法 3. 使用工厂类的静态方法 二、对象的创建策略 1. 单例策略 2. 多例策略 三、对象的销毁时机 四、生命周期方法 1. 定义生命周期方法 2. 配置生命周期方法 3. 测试 五、获取Bean对象的方式 1. 通过id/name获取 2. 通过类

    2024年02月01日
    浏览(30)
  • 通过用户生命周期理解业务数据(AAARR漏斗模型)

    AARRR(主要用于toC,toB可参考)对应 用户生命周期 中的5个重要环节: 获取、激活、留存、收益、推荐。 因为每个环节都只有一部分用户会进入下一环节,整体生命周期呈现出漏斗形状,所以叫 漏斗模型 。 AARRR模型的核心就是以用户为中心,以完整的用户生命周期为指导思想

    2024年02月13日
    浏览(26)
  • MySQL面试题入门:四大范式、SQL生命周期、SQL六大语言、索引、最左匹配原则....

    第一范式:属性不可分割,即每个属性都是不可分割的原子项。(实体的属性即表中的列) 第二范式:满足第一范式;且不存在部分依赖,即非主属性必须完全依赖于主属性。(主属性即主键;完全依赖是针对于联合主键的情况,非主键列不能只依赖于主键的一部分) 第三范式:

    2024年04月26日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包