【elasticSearch系】3.完整搭建详尽版elk

这篇具有很好参考价值的文章主要介绍了【elasticSearch系】3.完整搭建详尽版elk。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

话不多说,我们先看下经典的elk 是由哪些组件搭建组合起来的

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

 elasticSearch和kibana搭建

可以查看之前我搭建elasticsearch和kibana 的这篇文章

logstash搭建

为了和之前我搭建elasticsearch和kibana版本保持一致,这里我们还是选择7.17.3

下载地址

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

 点击下载,这里为了方便学习我们还是下载的windows的版本

解压后,我们启动logstash.bat发现一直卡着不动,需要我们配置LS_JAVA_HOME

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

 我们排查下对应的启动脚本【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

 找到setup.bat脚本需要我们配置LS_JAVA_HOME的环境变量

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

 配置完成环境变量后,

 我们进入解压后的logstash文件夹,使用下面命令来启动测试下

.\logstash.bat -e "input { stdin { } } output { stdout {} }"

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

 输入hello logstash 测试下

【elasticSearch系】3.完整搭建详尽版elk,中间件,elasticsearch,elk,大数据

到这里,说明我们的logstash已经可以正常启动了

我们看下logstash官方文档上面是怎么配置的

Structure of a config file | Logstash Reference [7.17] | Elastic

看下官网的一个示例

input { stdin { } }

filter {
  grok {
    match => { "message" => "%{COMBINEDAPACHELOG}" }
  }
  date {
    match => [ "timestamp" , "dd/MMM/yyyy:HH:mm:ss Z" ]
  }
}

output {
  elasticsearch { hosts => ["localhost:9200"] }
  stdout { codec => rubydebug }
}

logstash的工作原理

Logstash 事件处理管道分为三个阶段:输入→过滤器→输出。输入生成事件,过滤器修改它们,输出将它们发送到其他地方。输入和输出支持编解码器,使您能够在数据进入或退出管道时对数据进行编码或解码,而无需使用单独的过滤器。

How Logstash Works | Logstash Reference [7.17] | Elastic

官网这篇里面介绍了基本的工作原理

一个简单的mysql数据库数据同步es案例

初始化mysql数据文章来源地址https://www.toymoban.com/news/detail-669705.html

CREATE TABLE `user` (
  `id` int NOT NULL AUTO_INCREMENT,
  `name` varchar(50) DEFAULT NULL,
  `address` varchar(50) DEFAULT NULL,
  `last_updated` bigint DEFAULT NULL,
  `is_deleted` int DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf

到了这里,关于【elasticSearch系】3.完整搭建详尽版elk的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Java中间件-Elasticsearch

    Elasticsearch 是一个非常强大的搜索引擎。它目前被广泛地使用于各个 IT 公司。Elasticsearch 是由 Elastic 公司创建。它的代码位于 GitHub - elastic/elasticsearch: Free and Open, Distributed, RESTful Search Engine。目前,Elasticsearch 是一个免费及开放(free and open)的项目。同时,Elastic 公司也拥有

    2023年04月27日
    浏览(36)
  • 中间件: ElasticSearch的安装与部署

    文档地址: https://www.elastic.co/guide/en/elasticsearch/reference/current/index.html 创建用户: 系统参数配置: 方式一:YUM安装 方式二: 配置 启动 (1)修改配置elasticsearch.yml: cluster.name # 一个集群内cluster name 需要相同 node.name # 各个节点node name 唯一 discovery.seed_hosts # network.host node.mast

    2024年02月12日
    浏览(32)
  • 中间件环境搭建配置过程解读

    安装xampp服务集成环境工具 官网地址 下载项目压缩包,将项目文件夹放在xampp安装目录的htdocs文件夹下 初始化xampp:运行目录内的setup_xampp.bat 运行 xampp-control.exe 可以启动或停止apache、mysql等各个模块并可将其注册为服务。 配置xampp(Apache、MySQL) 配置参考地址 Apache 项—con

    2024年02月10日
    浏览(29)
  • 【中间件】ElasticSearch:ES的基本概念与基本使用

    Index索引、Type类型,类似于数据库中的数据库和表,我们说,ES的数据存储在某个索引的某个类型中(某个数据库的某个表中),Document文档(JSON格式),相当于是数据库中内容的存储方式 MySQL:数据库、表、数据 ElasticSearch:索引、类型、文档 ElasticSearch的检索功能基于其倒

    2024年02月04日
    浏览(36)
  • Springcloud中间件-----分布式搜索引擎 Elasticsearch

    该笔记是根据黑马程序员的课来自己写了一遍的,b站有对应教程和资料 第一部分 第二部分 第三部分 预计看完跟着练习5小时足够 1.1.1.elasticsearch的作用 elasticsearch是一款非常强大的开源搜索引擎,具备非常多强大功能,可以帮助我们从海量数据中快速找到需要的内容 例如:

    2024年02月08日
    浏览(43)
  • 虚拟机搭建宝蓝德中间件(三)

    2.1. 准备介质 2.1.1. 介质包: 宝兰德中间件的介质名为:BES-9.5.2.4703.tar.gz,该介质包适用于不同操作系统和 硬件平台。 2.1.2. 上传 BES952 单机版介质,上传路径:/home/bes 2.1.3. 新建 BES 中间件目录,执行命令:mkdir BES 2.1.4. 解压 BES952 介质至 BES 目录中,执行命令:tar -zxvf BES-9.

    2024年02月04日
    浏览(23)
  • 使用Spring Boot集成中间件:Elasticsearch基础->提高篇

    Elasticsearch是一个开源的分布式搜索和分析引擎,广泛用于构建实时的搜索和分析应用。在本篇博客中,我们将深入讲解如何使用Spring Boot集成Elasticsearch,实现数据的索引、搜索和分析。 在开始之前,确保已经完成以下准备工作: 安装并启动Elasticsearch集群 创建Elasticsearch索引

    2024年01月19日
    浏览(34)
  • 在CSDN学Golang分布式中间件(ElasticSearch)

    倒排索引是一种用于快速查找文本中特定单词或短语的数据结构。它将文本中的每个单词或短语与包含该单词或短语的文档列表相关联。这使得可以轻松地查找包含给定单词或短语的所有文档。 在 Go 中,可以使用 map 和 slice 来实现倒排索引。具体来说,可以使用一个 map 将每

    2024年02月15日
    浏览(35)
  • Linux环境下搭建使用缓存中间件Redis

    作者: 逍遥Sean 简介:一个主修Java的Web网站游戏服务器后端开发者 主页:https://blog.csdn.net/Ureliable 觉得博主文章不错的话,可以三连支持一下~ 如有需要我的支持,请私信或评论留言! redis简介 Redis是一个开源的、基于内存的、高性能的键值对存储数据库。 Redis支持多种数据

    2024年02月11日
    浏览(32)
  • SpringBoot--中间件技术-3:整合mongodb,整合ElasticSearch,附案例含代码(简单易懂)

    实现步骤: pom文件导坐标 yaml配置文件配置mongodb: 随便建一个pojo 测试: 装配MongoTemplate模板类,调用方法 整合MongoDB总结: 导坐标 写配置文件 核心类MongoTemplate调用 前提准备:数据库+ES 数据库建表语句: 实现步骤: pom文件到坐标 yaml配置文件 创建实体类: 对应数据库表

    2024年02月04日
    浏览(38)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包