【ES】【elasticsearch】分布式搜索

这篇具有很好参考价值的文章主要介绍了【ES】【elasticsearch】分布式搜索。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

☀️1.部署单点es

🌸1.1.创建网络


因为我们还需要部署kibana容器,因此需要让es和kibana容器互联。这里先创建一个网络:

docker network create es-net

🌸1.2.下载镜像


docker镜像官网https://hub.docker.com/search?q=elasticsearch

docker pull elasticsearch:7.12.1

🌸1.3.运行


运行docker命令,部署单点es:

docker run -d \
    --name es \
    -e "ES_JAVA_OPTS=-Xms512m -Xmx512m" \
    -e "discovery.type=single-node" \
    -v es-data:/usr/share/elasticsearch/data \
    -v es-plugins:/usr/share/elasticsearch/plugins \
    -v es-config:/usr/share/elasticsearch/config \
    --privileged \
    --network es-net \
    -p 9200:9200 \
    -p 9300:9300 \
elasticsearch:7.12.1

命令解释:

  • -e "cluster.name=es-docker-cluster":设置集群名称
  • -e "http.host=0.0.0.0":监听的地址,可以外网访问
  • -e "ES_JAVA_OPTS=-Xms512m -Xmx512m":内存大小
  • -e "discovery.type=single-node":非集群模式
  • -v es-data:/usr/share/elasticsearch/data:挂载逻辑卷,绑定es的数据目录
  • -v es-logs:/usr/share/elasticsearch/logs:挂载逻辑卷,绑定es的日志目录
  • -v es-plugins:/usr/share/elasticsearch/plugins:挂载逻辑卷,绑定es的插件目录
  • --privileged:授予逻辑卷访问权
  • --network es-net :加入一个名为es-net的网络中
  • -p 9200:9200:端口映射配置

🌸1.4设置ES密码

🌸单个手动设置

🌸修改配置文件elasticsearch.yml

找到 elasticsearch.yml文件

  • docker volume inspect es-config
    【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

修改 elasticsearch.yml文件

##开启X-Pack密码验证
xpack.security.enabled: true
## 加密方式
xpack.license.self_generated.type: basic
xpack.security.transport.ssl.enabled: true

重启 docker restart es

🌸设置密码
# 进入容器内
docker exec -it es bash
# bin文件夹下执行该命令
./elasticsearch-setup-passwords interactive

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

这里会设置六个账号的密码:elastic,apm_system,kibana,logstash_system,beats_system,remote_monitoring_user.

🌸自动生成

🌸修改配置文件elasticsearch.yml
# 开启认证
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
# 重启es
docker restart es
# 进入容器内
docker exec -it es bash
🌸生成证书
# 生成证书
./bin/elasticsearch-certutil ca
# elastic-stack-ca.p12生成elastic-certificates.p12
./bin/elasticsearch-certutil cert --ca elastic-stack-ca.p12
# 把elastic-certificates.p12移动到config
mv elastic-certificates.p12 ./config
#执行后会生成密码,把生成的密码保存下来即可
./bin/elasticsearch-setup-passwords auto
#最后在把这段添加到elasticsearch.yml配置文件里面即可
xpack.security.transport.ssl.keystore.type: PKCS12
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: elastic-certificates.p12
xpack.security.transport.ssl.truststore.type: PKCS12
 
xpack.security.audit.enabled: true
# 重启es
docker restart es

☀️2.部署kibana


kibana可以给我们提供一个elasticsearch的可视化界面

docker pull kibana:7.12.1

🌸2.1.部署


运行docker命令,部署kibana

docker run -d \
--name kibana \
-e ELASTICSEARCH_HOSTS=http://es:9200 \
--restart=always \
-v kibana-config:/usr/share/kibana/config \
-v kibana-data:/usr/share/kibana/data \
--network=es-net \
-p 5601:5601  \
kibana:7.12.1
  • --network es-net :加入一个名为es-net的网络中,与elasticsearch在同一个网络中
  • -e ELASTICSEARCH_HOSTS=http://es:9200":设置elasticsearch的地址,因为kibana已经与elasticsearch在一个网络,因此可以用容器名直接访问elasticsearch
  • -p 5601:5601:端口映射配置

kibana启动一般比较慢,需要多等待一会,可以通过命令:

docker logs -f kibana

查看运行日志,当查看到下面的日志,说明成功:

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

此时,在浏览器输入地址访问:http://ip:5601,即可看到结果

🌸kibana连接es密码

和es的步骤一样先找到配置文件kibana.yml这里就不详细讲解了,也是在kibana-config数据卷中

  • kibana.yml加入下面两行配置
elasticsearch.username: "elastic"
elasticsearch.password: "es中设置的密码"
  • 再次访问可以看到需要输入密码了
    【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

🌸2.2 安装中文

查看绑定数据卷位置

 docker volume inspect kibana-config

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

进入目录进行修改 kibana.yml ,先复制cp kibana.yml kibana.yml.bak

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

在文件末尾添加 i18n.locale: "zh-CN" ,最后重启服务 注:在kibana7.6以后可以这样设置中文 在再次刷新访问就变成中文了http://ip:5601

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

docker restart kibana

🌸2.3.DevTools


kibana中提供了一个DevTools界面:

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

这个界面中可以编写DSL来操作elasticsearch。并且对DSL语句有自动补全功能。

☀️3.安装IK分词器


🌸3.1.在线安装ik插件(较慢)


# 进入容器内部
docker exec -it es bash

# 在线下载并安装
./bin/elasticsearch-plugin  install https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip

#退出
exit
#重启容器
docker restart es

🌸3.2.离线安装ik插件(推荐)


🌸1)查看数据卷目录


安装插件需要知道elasticsearch的plugins目录位置,而我们用了数据卷挂载,因此需要查看elasticsearch的数据卷目录,通过下面命令查看:

docker volume inspect es-plugins

显示结果:
【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

[
    {
        "CreatedAt": "2022-05-06T10:06:34+08:00",
        "Driver": "local",
        "Labels": null,
        "Mountpoint": "/var/lib/docker/volumes/es-plugins/_data",
        "Name": "es-plugins",
        "Options": null,
        "Scope": "local"
    }
]

说明plugins目录被挂载到了:/var/lib/docker/volumes/es-plugins/_data 这个目录中。

🌸2)解压缩分词器安装包


下载分词器包: https://github.com/medcl/elasticsearch-analysis-ik/releases/download/v7.12.1/elasticsearch-analysis-ik-7.12.1.zip

重命名为ik

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

🌸3)上传到es容器的插件数据卷中


也就是/var/lib/docker/volumes/es-plugins/_data
【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

🌸4)重启容器


# 4、重启容器
docker restart es
# 查看es日志
docker logs -f es

🌸5)测试:


IK分词器包含两种模式:

  • ik_smart:最少切分

  • ik_max_word:最细切分

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

GET /_analyze
{
  "analyzer": "ik_smart",
  "text": "疯狂星期四v50我"
}

结果:

{
  "tokens" : [
    {
      "token" : "疯狂",
      "start_offset" : 0,
      "end_offset" : 2,
      "type" : "CN_WORD",
      "position" : 0
    },
    {
      "token" : "星期四",
      "start_offset" : 2,
      "end_offset" : 5,
      "type" : "CN_WORD",
      "position" : 1
    },
    {
      "token" : "v50",
      "start_offset" : 5,
      "end_offset" : 8,
      "type" : "LETTER",
      "position" : 2
    },
    {
      "token" : "我",
      "start_offset" : 8,
      "end_offset" : 9,
      "type" : "CN_CHAR",
      "position" : 3
    }
  ]
}

🌸3.3 扩展词词典


随着互联网的发展,“造词运动”也越发的频繁。出现了很多新的词语,在原有的词汇列表中并不存在。比如:“黑粉”,“爱坤” 等。

所以我们的词汇也需要不断的更新,IK分词器提供了扩展词汇的功能。

来试一把 , 可以看到根本识别不出来

GET /_analyze
{
  "analyzer": "ik_smart",
  "text": "我们都是爱坤,不是黑粉"
}

【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式
1)打开IK分词器config目录:
【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式
2)在IKAnalyzer.cfg.xml配置文件内容添加:

停止词字典也是一样的我这里就不一 一举例了

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典-->
        <entry key="ext_dict">ext.dic</entry>
         <!--用户可以在这里配置自己的扩展停止词字典  *** 添加停用词词典-->
        <entry key="ext_stopwords">stopword.dic</entry>
</properties>

3)新建一个 ext.dic,可以参考config目录下复制一个配置文件进行修改

爱坤
黑粉

4)重启elasticsearch

docker restart es

# 查看 日志
docker logs -f es
  1. 测试一下

可以看到非常完美的分词成功
【ES】【elasticsearch】分布式搜索,elasticsearch,docker,分布式,docker,elasticsearch,分布式

☀️4.部署es集群


部署es集群可以直接使用docker-compose来完成,不过要求你的Linux虚拟机至少有4G的内存空间

首先编写一个docker-compose文件,内容如下:

version: '2.2'
services:
  es01:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es01
    environment:
      - node.name=es01
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es02,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data01:/usr/share/elasticsearch/data
    ports:
      - 9200:9200
    networks:
      - elastic
  es02:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es02
    environment:
      - node.name=es02
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es03
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data02:/usr/share/elasticsearch/data
    networks:
      - elastic
  es03:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.12.1
    container_name: es03
    environment:
      - node.name=es03
      - cluster.name=es-docker-cluster
      - discovery.seed_hosts=es01,es02
      - cluster.initial_master_nodes=es01,es02,es03
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
    ulimits:
      memlock:
        soft: -1
        hard: -1
    volumes:
      - data03:/usr/share/elasticsearch/data
    networks:
      - elastic

volumes:
  data01:
    driver: local
  data02:
    driver: local
  data03:
    driver: local

networks:
  elastic:
    driver: bridge

Run docker-compose to bring up the cluster:文章来源地址https://www.toymoban.com/news/detail-655099.html

docker-compose up

到了这里,关于【ES】【elasticsearch】分布式搜索的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • elasticsearch(ES)分布式搜索引擎04——(数据聚合,自动补全,数据同步,ES集群)

    **聚合(aggregations)**可以让我们极其方便的实现对数据的统计、分析、运算。例如: 什么品牌的手机最受欢迎? 这些手机的平均价格、最高价格、最低价格? 这些手机每月的销售情况如何? 实现这些统计功能的比数据库的sql要方便的多,而且查询速度非常快,可以实现近

    2024年02月08日
    浏览(51)
  • 项目1在线交流平台-6.Elasticsearch分布式搜索引擎-3.ES结合Kafka应用-开发社区搜索功能

    参考牛客网高级项目教程 狂神说Elasticsearch教程笔记 尚硅谷Elasticsearch教程笔记 1.在业务层处理好搜索帖子的服务 包括保存帖子到ES服务器 从服务器中删除帖子 从服务器中查询帖子 2.发布事件 在controller层,结合kafka,发布帖子、增加评论时,数据放入消息队列 异步消费消息

    2024年02月02日
    浏览(56)
  • elasticsearch(ES)分布式搜索引擎01——(初识ES,索引库操作和文档操作,RestClient操作索引库和文档)

    1.1.1.elasticsearch的作用 elasticsearch是一款非常强大的开源搜索引擎,具备非常多强大功能,可以帮助我们从海量数据中快速找到需要的内容 1.1.2.ELK技术栈 elasticsearch结合kibana、Logstash、Beats,也就是elastic stack(ELK)。被广泛应用在日志数据分析、实时监控等领域: 而elasticsearc

    2024年02月07日
    浏览(62)
  • 【分布式搜索引擎es】

    elasticsearch最擅长的是 搜索 和 数据分析 。 查询文档 常见的查询类型包括: 查询所有 :查询出所有数据,一般测试用。例如:match_all 全文检索(full text)查询 :利用分词器对用户输入内容分词,然后去倒排索引库中匹配。例如: match_query multi_match_query 精确查询 :根据精确

    2024年02月10日
    浏览(48)
  • 分布式搜索引擎ES

    elasticsearch的作用 elasticsearch是一款非常强大的开源搜索引擎,具备非常多强大功能,可以帮助我们从海量数据中快速找到需要的内容 例如: 在GitHub搜索代码 在电商网站搜索商品 在百度搜索答案 ELK技术栈 elasticsearch结合kibana、Logstash、Beats,也就是elastic stack(ELK)。被广泛应

    2024年02月04日
    浏览(41)
  • 分布式搜索分析引擎ES

    es是实时的分布式搜索分析引擎: 实时表现在新增到ES中的数据1s中就可以被检索到,这种新增数据对搜索的可见性成为“准实时搜索”。 分布式意味着可以动态调整集群规模,弹性扩容,支持上百个节点,相比 HDFS 等上千台的集群,更适合中等数据量的业务,不适合存储海

    2024年03月12日
    浏览(46)
  • 分布式搜索引擎es-3

    什么是聚合? 聚合 可以让我们极其方便的实现对数据的统计、分析、运算。例如: 什么 品牌 的手机最受欢迎? 这些手机的 平均 价格、 最高 价格、 最低 价格? 这些手机每 月的销售情况 如何? 实现这些统计功能的比数据库的sql要方便的多,而且查询速度非常快,可以实

    2024年02月07日
    浏览(44)
  • Elasticsearch分布式搜索

    目录 实用篇-ES-环境搭建 1. 什么是elasticsearch ​2. 倒排索引 3. elasticsearch对比mysql ​4. 安装elasticsearch 5. 安装kibana 6. 安装IK分词器 7. IK分词器的词典扩展和停用 实用篇-ES-DSL操作文档 1. mapping属性 2. 创建索引库 3. 查询、修改、删除索引库 4. 新增、查询、删除文档 5. 修改文档 实

    2024年04月22日
    浏览(50)
  • 分布式搜索——Elasticsearch

    Elasticsearch是一款非常强大的开源搜索引擎,具备非常多强大功能,可以帮助用户从海量数据中快速找到需要的内容。例如:在GitHub搜索代码、在百度搜索问题的答案、在打车软件搜索附近的车。 ELK技术栈 elasticsearch结合kibana、Logstash、Beats,也就是elastic stack(ELK)。被广泛应

    2024年01月17日
    浏览(42)
  • 分布式搜索--elasticsearch

    一、初识 elasticsearch  1. 了解 ES ① elasticsearch 是一款非常强大的开源   搜索引擎 ,可以帮助我们从海量数据中   快速找到需要的内容 ② elasticsearch 结合 kibana、Logstash、   Beats,也就是 elastic stack (ELK),被   广泛应用在日志数据分析、实时监控等   领域 ③ elasticsearch 是e

    2024年02月12日
    浏览(63)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包