es 索引迁移工具Elasticdump 安装及使用

这篇具有很好参考价值的文章主要介绍了es 索引迁移工具Elasticdump 安装及使用。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Elasticdump是一个命令行工具,可用于将数据从Elasticsearch导出到JSON文件,以及将JSON文件导入到Elasticsearch中。以下是一个简单的示例,演示如何使用Elasticdump实现数据导入导出。
准备工作
elasticdump 工具是node.js开发,依赖此环境,需要先安装 npm 命令。下载二进制包,安装 npm、node命令如下:
**第一步 node下载**
wget https://nodejs.org/dist/v10.13.0/node-v10.13.0-linux-x64.tar.xz (也可离线下载传输,node版本不能低于v10)
**第二步 安装及环境变量配置**
解压安装压缩包,解压命令如下
xz -d node-v10.13.0-linux-x64.tar.xz 
移动目录(路径可自行选择)
tar xvf node-v10.13.0-linux-x64.tar -C /usr/lib/
添加环境变量
打开 /etc/profile 添加以下环境变量,命令如下

vim /etc/profile
添加环境变量如下

export NODE_HOME=/usr/lib/node-v10.13.0-linux-x64
export PATH=$PATH:$NODE_HOME/bin
export NODE_PATH=$NODE_HOME/lib/node_modules
加载环境变量
/etc/profile
测试是否生效

elasticdump windows 安装,elasticsearch,npm,大数据
**第三步 安装elasticdump工具**
npm install elasticdump -g  #(-g为设置全局命令)
查看是否安装成功
elasticdump --version

elasticdump windows 安装,elasticsearch,npm,大数据

 
**第四步 elasticdump 导出**
--es导出索引结构
elasticdump --input=http://用户名:密码@ip:端口/索引名称 --output=D:\es\date\project-card-template_mapping.json --type=mapping
--es 导出索引数据
elasticdump --input=http://用户名:密码@ip:端口/索引名称 --output=D:\es\date\project-card-template.json --type=data
--es 导入
--创建索引(索引已存在无需创建)
$ curl -XPUT http://用户名:密码@ip:端口/索引名称
--因为导入的是mapping,所以设置type为mapping
$ elasticdump --input D:\es\date\project-card-template_mapping.json --output http://用户名:密码@ip:端口/索引名称 --type=mapping
#因为导入的是data(真实数据)所以设置type为data
$ elasticdump --input D:\es\date\project-card-template.json --output http://用户名:密码@ip:端口/索引名称 --type=data
**使用时遇到的坑**
1.例如elastic:elastic#2022 用户名、密码 含有# % 等会被转义 出现如下错误,有特殊符号需提前转义,出现如下错误
elasticdump windows 安装,elasticsearch,npm,大数据
2.直接导出大数bigint,json会四舍五入
比如 organizationId=1402571331202973696
会被改成 organizationId=1402571331202973700
这个迁移会导致数据有问题 

解决方案
在导出命令时加上两个参数
--support-big-int 支持大数类型
--big-int-fields 指定支持的字段,默认是''(default '')
例子:
elasticdump --input D:\es\date\project-card-template.json --output http://用户名:密码@ip:端口/索引名称 --type=data --type=data --support-big-int --big-int-fields='id,templateId'
4.elasticdump 常用命令查看及介绍
--input: 指定输入的源 Elasticsearch 实例或JSON文件;

--output:指定输出的目标 Elasticsearch实例或JSON文件;

--type:指定要操作的数据类型,包括index、alias、template、data analyzers等;

--searchBody:对于输入为Elasticsearch实例时,指定一个JSON对
象作为查询参数;

--limit:限制导出的文档数。默认情况下,它会导出所有文档

--inputIndex:指定输入源 Elasticsearch实例的索引名称;

--ignore-errors:忽略出错的文档,继续导出其余文档。

--scrollTime:设置scroll时间,以毫秒为单位。默认为10分钟。

--timeout:设置请求超时时间,以毫秒为单位。默认为30秒。

--support-big-int 支持大数类型

--big-int-fields 指定支持的字段,默认是''(default '')

--bulk-1imit:设置批量操作中的文档数量限制默认为1000
完整命令手册可以通过 elasticdump --help 查看文章来源地址https://www.toymoban.com/news/detail-729987.html

到了这里,关于es 索引迁移工具Elasticdump 安装及使用的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • elasticdump工具安装及使用详解(在线和离线)

    1.1 安装node和npm 以node版本 V16.18.1为例: 详见博文:Linux系统中安装nodejs(node、npm)_IT之一小佬的博客-CSDN博客 1.2 安装elasticdump 1.3 创建软链接         如果比着1.1安装的话,此时不用创建软链接,直接使用elasticdump --help也是可能成功的。在1.1中配置过环境变量path。 创建软链

    2024年02月03日
    浏览(64)
  • 使用elasticdump实现es数据导入导出示例(持续更新中)

    Elasticdump是一个命令行工具,可用于将数据从Elasticsearch导出到JSON文件,以及将JSON文件导入到Elasticsearch中。以下是一个简单的示例,演示如何使用Elasticdump实现数据导入导出: 您可以使用npm命令在命令行中安装Elasticdump。(npm请自行安装。)例如,使用以下命令安装最新版本

    2023年04月11日
    浏览(45)
  • elasticsearch数据迁移之elasticdump

    第一章 es集群搭建 第二章 es集群基本操作命令 第三章 es基于search-guard插件实现加密认证 第四章 es常用插件 在企业实际生产环境中,避免不了要对es集群进行迁移、数据备份与恢复,以此来确保数据的可用性及完整性。因此,就涉及到了数据备份与恢复。本章主要以elasticdump工

    2024年04月27日
    浏览(36)
  • 离线安装elasticdump导出elasticsearch数据

    项目需要导出知识库博客文章数据,格式为json; 知识库系统部署在内网,没有node和 elasticdump 数据导出工具,需要离线安装node和elasticdump,方法是找一台与内网配置一样的外网机器在线安装node和elasticdump环境,再把安装包导入内网安装。 备注: 使用的机器是x86+银行麒麟V4桌

    2024年02月03日
    浏览(39)
  • elasticsearch备份恢复,elasticdump使用

    准备环境 1. 将node-v10.23.1-linux-x64.tar.xz上传到服务器/usr/local目录下 2. tar xf node-v10.23.1-linux-x64.tar.xz 3. 将node_modules.tar.gz上传到服务器/usr/local目录 4. tar -zxvf node_modules.tar.gz 5. 设置NODE环境   5.1 vim /etc/profile     export NODEJS_HOME=/usr/local/node-v10.23.1-linux-x64     export PATH=$NODEJS_HOME/bin:

    2024年01月19日
    浏览(37)
  • Elasticsearch备份与还原:使用elasticdump

    在数据管理的世界里,备份和还原数据是重中之重的日常工作,特别是对于Elasticsearch这样的强大而复杂的搜索引擎。备份不仅可以用于灾难恢复,还可以在数据迁移、测试或者升级等场景中发挥重要作用。 在本博客中,我们将会重点介绍如何使用一个非常实用的工具——e

    2024年02月04日
    浏览(45)
  • Elasticsearch Dump的详细安装和迁移es索引和数据的使用教程

    如果希望将数据导出到本地文件而不是通过编程方式处理,可以考虑使用Elasticsearch的导出工具,如 Elasticsearch Dump (Elasticdump)或 Elasticsearch Exporter 。这些工具可以将Elasticsearch索引中的数据导出为可用于后续处理的文件格式,如JSON或CSV,本文主要介绍使用Elasticsearch Dump进行索

    2024年02月14日
    浏览(53)
  • ES索引数据迁移 _reindex

    集群内部索引迁移,从一个索引迁移数据到另一个索引里 新索引与就索引结构保持一致 通过就索引_mapping _setting 获取配置和结构信息 然后创建新索引 需要注意 添加如下配置 设置number_of_replicas为0防止我们迁移文档的同时又发送到副本节点,影响性能 设置refresh_interval为-1是

    2024年02月12日
    浏览(49)
  • es监控工具cerebro 安装使用教程

    es 在我们日常企业级开发中占据的地位越来越重要,那么对于es的资源监控也显得至关重要。下面总结一下es监控工具cerebro 安装使用。 1.安装 cerebro 的介绍下载使用请参见 cerebro github 项目地址 选择对应操作系统的版本 ,我的电脑是windows 系统所以这里只介绍windows的使用过程

    2024年02月11日
    浏览(52)
  • ES的可视化工具-Kibana的安装和使用

        Kibana 是为 Elasticsearch设计的开源分析和可视化平台。你可以使用 Kibana 来搜索,查看存储在 Elasticsearch 索引中的数据并与之交互。你可以很容易实现高级的数据分析和可视化,以图表的形式展现出来。     下面是Kibana的安装步骤,控制台可以非常方便的来调用es的api,强

    2024年02月12日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包