centos7使用docker compose部署ELK

这篇具有很好参考价值的文章主要介绍了centos7使用docker compose部署ELK。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

说明:1、一定要先不要配置那么多配置文件,去除掉一些,先让docker compose启动相关服务能访问的时候,使用拷贝方法,把相关的配置文件拷贝出来在外面修改,这样保险一些,不然容易配置文件错误无法启动问题

 2、作者测试ELK版本(7.6.2)是可以通过下面步骤配置成功,试过(8.5.3)的版本不行,具体原因没有具体研究,网上有人说是因为elastic版本太高不兼容低版本的centos7,作者测试使用的操作系统是centos7.6

1、准备下载相关镜像

docker pull logstash:7.6.2
docker pull kibana:7.6.2
docker pull elasticsearch:7.6.2
docker pull elastic/filebeat:7.6.2

2、创建相关文件夹

新建文件夹使用命令:mkdir /opt/docker_elk

centos7使用docker compose部署ELK

在/opt/docker_elk/elasticsearch新建plugins和data文件夹

设置目录/opt/docker_elk/filebeat/logs和拷贝相关日志文件smartbuilding-service.log

 3、设置相关配置文件

/opt/docker_elk/logstash/logstash.conf

input {
    beats {
       port => 5044
    }
}

filter {
    grok {
        pattern_definitions => {
            "QUALIFIED" => "[a-zA-Z0-9$_.]+"
        }

        match => {
            "message" => "%{TIMESTAMP_ISO8601:logdate}%{SPACE}\[%{USERNAME:logthread}\]%{SPACE}%{WORD:loglevel}%{SPACE}%{QUALIFIED:logclass:text}%{SPACE}-%{SPACE}%{GREEDYDATA:logmsg:text}"

        }

    }
}


output {
    elasticsearch {
        hosts =>["elasticsearch:9200"]
        index => "cloud"
        template => "/etc/logstash/template.json"
        template_name => "logstash"
    }

}

/opt/docker_elk/logstash/template.json

{
  "template": "logstash-*",
  "settings": {
    "number_of_shards": 1,
    "number_of_replicas": 0
  },
  "mappings": {
    "properties": {
      "logclass": {
        "type": "text"
      },
      "logdate": {
        "type": "date",
        "format": "yyyy-MM-dd HH:mm:ss.SSS"
      },
      "loglevel": {
        "type": "keyword"
      },
      "logthread": {
        "type": "keyword"
      },
      "logmsg": {
        "type": "text"
      }
    }
  }
}

/opt/docker_elk/docker-compose.yml

version: '3.7'
services:
  elasticsearch:
    image: elasticsearch:7.6.2
    container_name: elasticsearch
    privileged: true
    user: root
    environment:
      #设置集群名称为elasticsearch
      - cluster.name=elasticsearch 
      #以单一节点模式启动
      - discovery.type=single-node 
      #设置使用jvm内存大小
      - ES_JAVA_OPTS=-Xms512m -Xmx512m 
    volumes:
      - /opt/docker_elk/elasticsearch/plugins:/usr/share/elasticsearch/plugins
      - /opt/docker_elk/elasticsearch/data:/usr/share/elasticsearch/data
    ports:
      - 9200:9200
      - 9300:9300

  logstash:
    image: logstash:7.6.2
    restart: always
    container_name: logstash
    volumes:
      - /opt/docker_elk/logstash/pipeline/logstash.conf:/usr/share/logstash/pipeline/logstash.conf
      - /opt/docker_elk/logstash/template.json:/etc/logstash/template.json
    ports:
      - "5044:5044"
      - "9600:9600"
    environment:
      LS_JAVA_OPTS: "-Xms512m -Xmx512m"
    depends_on:
      - elasticsearch


  filebeat:
    image: elastic/filebeat:7.6.2
    restart: always
    container_name: filebeat
    volumes:
      - /opt/docker_elk/filebeat/logs:/var/log/filebeat/logs
    depends_on:
      - elasticsearch
      - kibana

  kibana:
    image: kibana:7.6.2
    container_name: kibana
    ports:
        - 5601:5601
    privileged: true
    depends_on:
      - elasticsearch 
    environment:
      #设置访问elasticsearch的地址
      - elasticsearch_url=elasricsearch:9200 

4、启动docker compose

#启动
docker compose -f docker-compose.yml up
#停止
docker compose -f docker-compose.yml down

注意;启动的时候可能elasticsearch会报错权限不足,使用下面命令赋予权限

chmod 777 /opt/docker_elk/elasticsearch/data

5、拷贝已经启动好的docker服务配置文件出来

注意:相关的容器id,可使用docker ps 查看

docker cp 9fc815e4334c:/usr/share/elasticsearch/config/elasticsearch.yml /opt/docker_elk/elasticsearch/config

docker cp ce9c723fecfb:/usr/share/kibana/config/kibana.yml /opt/docker_elk/kibana/config

docker cp f30b56380f92:/usr/share/logstash/config/logstash.yml /opt/docker_elk/logstash/pipeline

6、编辑拷贝出来的配置文件elasticsearch.yml

cluster.name: "docker-cluster"
network.host: 0.0.0.0
#http.cors.enabled: true #跨域配置
#http.cors.allow-origin: "*"
xpack.security.enabled: true  #开启密码配置

7、修改docker compose文件的elasticsearch服务

  - /opt/docker_elk/elasticsearch/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml

centos7使用docker compose部署ELK

重启docker 相关服务

8、进入docker容器,开启账号密码认证模式

#进入es容器设置账号密码登录
docker exec -it elasticsearch /bin/bash 
#执行设置:elastic、apm_system、kibana_system、logstash_system、beats_system、remote_monitoring_user共6个用户账号密码
./bin/elasticsearch-setup-passwords interactive -u 'http://192.168.0.132:9200'
#退出容器

 9、修改配置文件kibana.yml

/opt/docker_elk/kibana/config

#
# ** THIS IS AN AUTO-GENERATED FILE **
#

# Default Kibana configuration for docker target
i18n.locale: "zh-CN"  #汉化
server.name: kibana
server.host: "0"
elasticsearch.hosts: [ "http://elasticsearch:9200" ]
xpack.monitoring.ui.container.elasticsearch.enabled: true
#elasticsearch.username: "kibana_system" #注意不能用elastic超管账号登录
elasticsearch.username: "elastic" 
elasticsearch.password: "填写你设置的密码"

10、设置logstash.yml

/opt/docker_elk/logstash/pipeline

http.host: "0.0.0.0"
xpack.monitoring.elasticsearch.hosts: [ "http://elasticsearch:9200" ]
xpack.monitoring.elasticsearch.username: "elastic"
xpack.monitoring.elasticsearch.password: "你设置的密码"

修改/opt/docker_elk/logstash/logstash.conf文件增加用户和密码

input {
    beats {
       port => 5044
    }
}

filter {
    grok {
        pattern_definitions => {
            "QUALIFIED" => "[a-zA-Z0-9$_.]+"
        }

        match => {
            "message" => "%{TIMESTAMP_ISO8601:logdate}%{SPACE}\[%{USERNAME:logthread}\]%{SPACE}%{WORD:loglevel}%{SPACE}%{QUALIFIED:logclass:text}%{SPACE}-%{SPACE}%{GREEDYDATA:logmsg:text}"

        }

    }
}


output {
    elasticsearch {
        hosts =>["elasticsearch:9200"]
        index => "cloud"
        template => "/etc/logstash/template.json"
        template_name => "logstash"
        user => "elastic"
        password => "你设置的密码"
    }

}

11、重新配置docker compose配置文件

version: '3.7'
services:
  elasticsearch:
    image: elasticsearch:7.6.2
    container_name: elasticsearch
    privileged: true
    user: root
    environment:
      #设置集群名称为elasticsearch
      - cluster.name=elasticsearch 
      #以单一节点模式启动
      - discovery.type=single-node 
      #设置使用jvm内存大小
      - ES_JAVA_OPTS=-Xms512m -Xmx512m 
    volumes:
      - /opt/docker_elk/elasticsearch/plugins:/usr/share/elasticsearch/plugins
      - /opt/docker_elk/elasticsearch/data:/usr/share/elasticsearch/data
      - /opt/docker_elk/elasticsearch/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml
    ports:
      - 9200:9200
      - 9300:9300

  logstash:
    image: logstash:7.6.2
    restart: always
    container_name: logstash
    volumes:
      - /opt/docker_elk/logstash/pipeline/logstash.conf:/usr/share/logstash/pipeline/logstash.conf
      - /opt/docker_elk/logstash/pipeline/logstash.yml:/usr/share/logstash/config/logstash.yml
      - /opt/docker_elk/logstash/template.json:/etc/logstash/template.json
    ports:
      - "5044:5044"
      - "9600:9600"
    environment:
      LS_JAVA_OPTS: "-Xms512m -Xmx512m"
    depends_on:
      - elasticsearch


  filebeat:
    image: elastic/filebeat:7.6.2
    restart: always
    container_name: filebeat
    volumes:
      - /opt/docker_elk/filebeat/filebeat.yml:/usr/share/filebeat/filebeat.yml
      - /opt/docker_elk/filebeat/logs:/var/log/filebeat/logs
    depends_on:
      - elasticsearch
      - kibana

  kibana:
    image: kibana:7.6.2
    container_name: kibana
    ports:
        - 5601:5601
    privileged: true
    depends_on:
      - elasticsearch 
    environment:
      #设置访问elasticsearch的地址
      - elasticsearch_url=elasricsearch:9200 
    volumes:
      - /opt/docker_elk/kibana/config/kibana.yml:/usr/share/kibana/config/kibana.yml

重启docker服务后,就可正常使用ELK进行设置了

12、进入kibana

http://192.168.0.132:5601

账号:elastic

密码:你设置的密码

centos7使用docker compose部署ELK

 centos7使用docker compose部署ELK

centos7使用docker compose部署ELK

查看日志

centos7使用docker compose部署ELK

 其他问题:

启动后,可能会发现elasticsearch状态显示yellow

centos7使用docker compose部署ELK文章来源地址https://www.toymoban.com/news/detail-467245.html

curl -XPUT "http://192.168.0.132:9200/_settings" -H 'Content-Type: application/json' -d'
{
    "index" : {
        "number_of_replicas" : 0
    }
}'

到了这里,关于centos7使用docker compose部署ELK的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Centos7 Docker&Docker-Compose安装教程

    整合两篇文章备忘 原文链接如下: https://cloud.tencent.com/developer/article/1701451 https://www.zhuawaba.com/post/84 在安装 Docker 之前,先说一下配置,我这里是Centos7 Linux 内核:官方建议 3.10 以上,3.8以上貌似也可。 注意:本文的命令使用的是 root 用户登录执行,不是 root 的话所有命令前

    2024年02月02日
    浏览(63)
  • CentOS7安装docker以及docker-compose

    系统版本:CentOS7.9 docker版本:当前最新版本是23.0.3 docker compose版本:v2.17.2 参考官网文档:跳转链接 我这边之前没有安装过docker,所以执行命令后输出以下内容 这里有两种方式,一种是安装最新版本的docker,一种是安装指定版本的docker。 安装最新版本docker 安装指定版本do

    2024年02月05日
    浏览(56)
  • 在CentOS7上使用Docker安装和部署RabbitMQ

    首先,使用Docker命令从Docker Hub拉取RabbitMQ官方镜像。打开终端并运行以下命令: 一旦镜像下载完成,使用以下命令创建RabbitMQ容器: -d:这个选项告诉Docker在后台运行容器。 –hostname:主机名(RabbitMQ的一个重要注意事项是它根据所谓的 “节点名称” 存储数据,默认为主机名

    2024年02月10日
    浏览(49)
  • 如何在CentOS使用docker-compose部署Apache Superset并实现公网访问

    Superset是一款由中国知名科技公司开源的“现代化的企业级BI(商业智能)Web应用程序”,其通过创建和分享dashboard,为数据分析提供了轻量级的数据查询和可视化方案。Superset在数据处理和可视化方面具有强大的功能,能够满足企业级的数据分析需求,并为用户提供直观、灵

    2024年01月25日
    浏览(73)
  • Centos7系统 Docker 安装和使用教程(超详细附带常用的容器部署代码)

    简介 Docker 是一个开源的容器化平台,可帮助开发者轻松地创建、部署和运行应用程序。 Docker 使开发人员能够在一个独立的容器中打包应用程序及其依赖项,这样他们就可以轻松地将应用程序移植到任何其他环境中。 使用 Docker 的主要优势: 便于部署:由于 Docker 容器可以在

    2024年02月08日
    浏览(50)
  • Centos7下安装docker compose(零基础无脑直接安装,一看就会)

    安装docker composse必须先安装完docker,如果没有安装docker可以参照我 http://t.csdn.cn/GbupB 官方文档安装: curl -SL https://github.com/docker/compose/releases/download/v2.17.2/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose 国外源下载速度很慢 更换为国内源安装: curl -SL https://get.daocloud.io/docker/c

    2024年02月08日
    浏览(50)
  • Centos 7 部署Docker CE和docker-compose教程

    ①、安装依赖包 ②、设置yum源 ③、生成并更新系统中的软件包缓存 ④、安装、启动、并设置Docker开机自启 Docker 启动命令 Docker 容器命令 Docker 镜像命令 可选。Docker 官方提供的默认镜像源位于海外,可能下载会很慢,可以通过配置国内的镜像源,加速下载。 ①、使用文本编

    2024年02月07日
    浏览(43)
  • 基于CentOS7.9安装部署docker(简洁版)

    官方文档: https://docs.docker.com/engine/install/centos/ 阿里云文档:docker-ce镜像_docker-ce下载地址_docker-ce安装教程-阿里巴巴开源镜像站 # step 1: 安装必要的一些系统工具 sudo yum install -y yum-utils device-mapper-persistent-data lvm2 # Step 2: 添加软件源信息 sudo yum-config-manager --add-repo https://mirrors

    2024年02月12日
    浏览(65)
  • centos7-docker安装和部署

    1.升级和安装工具 2.修改配置源 使用阿里云配置源 重新加载配置源 3.启动docker 设置开机自启 查看docker状态 docker命令 docker search nginx 搜索镜像 docker pull 名称 下载镜像 docker images 查看镜像 docker rm 容器 删除容器 4.查找nginx镜像并下载 查看镜像内容 启动容器 –name:容器名称

    2024年02月07日
    浏览(57)
  • Centos7安装Docker,安装DockerCompose(集群化部署),Docker私服镜像仓库

    Docker 分为 CE 和 EE 两大版本。CE 即社区版(免费,支持周期 7 个月),EE 即企业版,强调安全,付费使用,支持周期 24 个月。 Docker CE 分为 stable test 和 nightly 三个更新频道。 官方网站上有各种环境下的 安装指南,这里主要介绍 Docker CE 在 CentOS上的安装。 Docker CE 支持 64 位版

    2024年02月04日
    浏览(71)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包