1. Toy模板网首页
  2. > Toy博客

9、Elasticsearch7.6.1 ES与HDFS相互转存数据-ES-Hadoop

7月前 作者：一瓢一瓢的饮 alanchan 分类：Toy博客 阅读(29) 违法举报

这篇具有很好参考价值的文章主要介绍了9、Elasticsearch7.6.1 ES与HDFS相互转存数据-ES-Hadoop。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

Elasticsearch 系列文章

1、介绍lucene的功能以及建立索引、搜索单词、搜索词语和搜索句子四个示例实现
2、Elasticsearch7.6.1基本介绍、2种部署方式及验证、head插件安装、分词器安装及验证
3、Elasticsearch7.6.1信息搜索示例（索引操作、数据操作-添加、删除、导入等、数据搜索及分页）
4、Elasticsearch7.6.1 Java api操作ES（CRUD、两种分页方式、高亮显示）和Elasticsearch SQL详细示例
5、Elasticsearch7.6.1 filebeat介绍及收集kafka日志到es示例
6、Elasticsearch7.6.1、logstash、kibana介绍及综合示例（ELK、grok插件）
7、Elasticsearch7.6.1收集nginx日志及监测指标示例
8、Elasticsearch7.6.1收集mysql慢查询日志及监控
9、Elasticsearch7.6.1 ES与HDFS相互转存数据-ES-Hadoop

本文简单的介绍了ES-hadoop组件功能使用，即通过ES-hadoop实现相互数据写入示例。
本文依赖es环境、hadoop环境好用。
本文分为三部分，即ES-hadoop介绍、ES数据写入hadoop和hadoop数据写入ES。

一、ES-Hadoop介绍

ES-Hadoop是Elasticsearch推出的专门用于对接Hadoop生态的工具，可以让数据在Elasticsearch和Hadoop之间双向移动，无缝衔接Elasticsearch与Hadoop服务，充分使用Elasticsearch的快速搜索及Hadoop批处理能力，实现交互式数据处理。

本文介绍如何通过ES-Hadoop实现Hadoop的Hive服务读写Elasticsearch数据。

Hadoop生态的优势是处理大规模数据集，但是其缺点也很明显，就是当用于交互式分析时，查询时延会比较长。而Elasticsearch擅长于交互式分析，对于很多查询类型，特别是对于Ad-hoc查询（即席查询），可以达到秒级。ES-Hadoop的推出提供了一种组合两者优势的可能性。使用ES-Hadoop，您只需要对代码进行很小的改动，即可快速处理存储在Elasticsearch中的数据，并且能够享受到Elasticsearch带来的加速效果。

ES-Hadoop的原理是将Elasticsearch作为MR、Spark或Hive等数据处理引擎的数据源，在计算存储分离的架构中扮演存储的角色。这和 MR、Spark或Hive的数据源并无差异，但相对于这些数据源，Elasticsearch具有更快的数据选择过滤能力。这种能力正是分析引擎最为关键的能力之一。

es hadoop hdfs,大数据相关组件介绍,hadoop,elasticsearch,hdfs,es-hadoop,日志分析,全文检索,es数据写入hdfs

二、ES写入HDFS

假设es中已经存储具体索引数据，下面仅仅是将es的数据读取并存入hdfs中。
es hadoop hdfs,大数据相关组件介绍,hadoop,elasticsearch,hdfs,es-hadoop,日志分析,全文检索,es数据写入hdfs
es hadoop hdfs,大数据相关组件介绍,hadoop,elasticsearch,hdfs,es-hadoop,日志分析,全文检索,es数据写入hdfs

1、txt文件格式写入

1）、pom.xml

	<dependency>
        <groupId>org.elasticsearch</groupId>
        <artifactId>elasticsearch-hadoop</artifactId>
        <version>7.6.1</version>
    </dependency>
    <dependency>
        <groupId>org.elasticsearch.client</groupId>
        <artifactId>transport</artifactId>
        <version>7.6.1</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-common</artifactId>
        <version>3.1.4</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-client</artifactId>
        <version>3.1.4</version>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-hdfs</artifactId>
        <version>3.1.4</version>
    </dependency>
    <dependency>
        <groupId>jdk.tools</groupId>
        <artifactId>jdk.tools</artifactId>
        <version>1.8</version>
        <scope>system</scope>
        <systemPath>${JAVA_HOME}/lib/tools.jar</systemPath>
    </dependency>
    <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-mapreduce-client-core</artifactId>
        <version>3.1.4</version>
    </dependency>
    <!-- https://mvnrepository.com/artifact/commons-httpclient/commons-httpclient -->
    <dependency>
        <groupId>commons-httpclient</groupId>
        <artifactId>commons-httpclient</artifactId>
        <version>3.1</version>
    </dependency>
    <!-- https://mvnrepository.com/artifact/com.google.code.gson/gson -->
    <dependency>
        <groupId>com.google.code.gson</groupId>
        <artifactId>gson</artifactId>
        <version>2.10.1</version>
    </dependency>

2）、示例1：order_idx

将ES中的order_idx索引数据存储至hdfs中，其中hdfs是HA。hdfs中是以txt形式存储的，其中数据用逗号隔离

  • 其数据结构
key 5000，value {status=已付款, pay_money=3820.0, payway=3, userid=4405460,operation_date=2020-04-25 12:09:51, category=维修;手机;}
  • 实现
import java.io.IOException;
import java.util.Iterator;
import java.util.Map;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;
import org.elasticsearch.hadoop.mr.EsInputFormat;
import org.elasticsearch.hadoop.mr.LinkedMapWritable;

import lombok.Data;
import lombok.extern.slf4j.Slf4j;

@Slf4j
public class ESToHdfs extends Configured implements Tool {
    private static String out = "/ES-Hadoop/test";

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        int status = ToolRunner.run(conf, new ESToHdfs(), args);
        System.exit(status);
    }

    static class ESToHdfsMapper extends Mapper<Text, LinkedMapWritable, NullWritable, Text> {
        Text outValue = new Text();

        protected void map(Text key, LinkedMapWritable value, Context context) throws IOException, InterruptedException {
//            log.info("key {} , value {}", key.toString(), value);

            Order order = new Order();
//            order.setId(Integer.parseInt(key.toString()));

            Iterator it = value.entrySet().iterator();
            order.setId(key.toString());
            String name = null;
            String data = null;
            while (it.hasNext()) {
                Map.Entry entry = (Map.Entry) it.next();
                name = entry.getKey().toString();
                data = entry.getValue().toString();
                switch (name) {
                case "userid":
                    order.setUserid(Integer.parseInt(data));
                    break;
                case "operation_date":
                    order.setOperation_date(data);
                    break;
                case "category":
                    order.setCategory(data);
                    break;
                case "pay_money":
                    order.setPay_money(Double.parseDouble(data));
                    break;
                case "status":
                    order.setStatus(data);
                    break;
                case "payway":
                    order.setPayway(data);
                    break;
                }
            }
            //log.info("order={}", order);

            outValue.set(order.toString());
            context.write(NullWritable.get(), outValue);
        }
    }

    @Data
    static class Order {
        // key 5000 value {status=已付款, pay_money=3820.0, payway=3, userid=4405460, operation_date=2020-04-25 12:09:51, category=维修;手机;}
        private String id;
        private int userid;
        private String operation_date;
        private String category;
        private double pay_money;
        private String status;
        private String payway;

        public String toString() {
            return new StringBuilder(id).append(",").append(userid).append(",").append(operation_date).append(",").append(category).append(",").append(pay_money).append(",")
                    .append(status).append(",").append(payway).toString();
        }
    }

    @Override
    public int run(String[] args) throws Exception {
        Configuration conf = getConf();
        conf.set("fs.defaultFS", "hdfs://HadoopHAcluster");
        conf.set("dfs.nameservices", "HadoopHAcluster");
        conf.set("dfs.ha.namenodes.HadoopHAcluster", "nn1,nn2");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn1", "server1:8020");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn2", "server2:8020");
        conf.set("dfs.client.failover.proxy.provider.HadoopHAcluster", "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");
        System.setProperty("HADOOP_USER_NAME", "alanchan");

        conf.setBoolean("mapred.map.tasks.speculative.execution", false);
        conf.setBoolean("mapred.reduce.tasks.speculative.execution", false);
        conf.set("es.nodes", "server1:9200,server2:9200,server3:9200");
        // ElaticSearch 索引名称
        conf.set("es.resource", "order_idx");
        // 查询索引中的所有数据，也可以加条件          
        conf.set("es.query", "{       \"query\": {\"match_all\": {  }}}");

        Job job = Job.getInstance(conf, ESToHdfs.class.getName());
        // 设置作业驱动类
        job.setJarByClass(ESToHdfs.class);
        // 设置ES的输入类型
        job.setInputFormatClass(EsInputFormat.class);

        job.setMapperClass(ESToHdfsMapper.class);

        job.setMapOutputKeyClass(NullWritable.class);
        job.setMapOutputValueClass(Text.class);

        FileOutputFormat.setOutputPath(job, new Path(out));

        job.setNumReduceTasks(0);

        return job.waitForCompletion(true) ? 0 : 1;
    }
}
  • 验证
    结果如下图
    es hadoop hdfs,大数据相关组件介绍,hadoop,elasticsearch,hdfs,es-hadoop,日志分析,全文检索,es数据写入hdfs

3）、示例2：tomcat_log_2023-03

将ES中的tomcat_log_2023-03索引数据存储至hdfs中，其中hdfs是HA。hdfs中是以txt形式存储的，其中数据用逗号隔离

  • 其数据结构
key Uzm_44YBH2rQ2w9r5vqK , value {message=2023-03-15 13:30:00.001 [schedulerJobAllTask_Worker-1] INFO c.o.d.s.t.QuartzTask.executeAllTaskList-{37} - 生成消息记录任务停止执行结束*******, tags=[_dateparsefailure], class=c.o.d.s.t.QuartzTask.executeAllTaskList-{37}, level=INFO, date=2023-03-15 13:30:00.001, thread=schedulerJobAllTask_Worker-1, fields={source=catalina}, @timestamp=2023-03-15T05:30:06.812Z, log={file={path=/opt/apache-tomcat-9.0.43/logs/catalina.out}, offset=76165371}, info=- 生成消息记录任务停止执行结束*******}
  • 实现
import java.io.IOException;
import java.util.Iterator;
import java.util.Map;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;
import org.elasticsearch.hadoop.mr.EsInputFormat;
import org.elasticsearch.hadoop.mr.LinkedMapWritable;

import lombok.Data;
import lombok.extern.slf4j.Slf4j;

@Slf4j
public class ESToHdfs2 extends Configured implements Tool {
    private static String out = "/ES-Hadoop/tomcatlog";

    static class ESToHdfs2Mapper extends Mapper<Text, LinkedMapWritable, NullWritable, Text> {
        Text outValue = new Text();

        protected void map(Text key, LinkedMapWritable value, Context context) throws IOException, InterruptedException {
//            log.info("key {} , value {}", key.toString(), value);
            TomcatLog tLog = new TomcatLog();
            Iterator it = value.entrySet().iterator();
            String name = null;
            String data = null;
            while (it.hasNext()) {
                Map.Entry entry = (Map.Entry) it.next();
                name = entry.getKey().toString();
                data = entry.getValue().toString();
                switch (name) {
                case "date":
                    tLog.setDate(data.replace('/', '-'));
                    break;
                case "thread":
                    tLog.setThread(data);
                    break;
                case "level":
                    tLog.setLogLevel(data);
                    break;
                case "class":
                    tLog.setClazz(data);
                    break;
                case "info":
                    tLog.setLogMsg(data);
                    break;
                }
            }
            outValue.set(tLog.toString());
            context.write(NullWritable.get(), outValue);
        }
    }

    @Data
    static class TomcatLog {
        private String date;
        private String thread;
        private String logLevel;
        private String clazz;
        private String logMsg;

        public String toString() {
            return new StringBuilder(date).append(",").append(thread).append(",").append(logLevel).append(",").append(clazz).append(",").append(logMsg).toString();
        }
    }

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        int status = ToolRunner.run(conf, new ESToHdfs2(), args);
        System.exit(status);
    }

    @Override
    public int run(String[] args) throws Exception {
        Configuration conf = getConf();
        conf.set("fs.defaultFS", "hdfs://HadoopHAcluster");
        conf.set("dfs.nameservices", "HadoopHAcluster");
        conf.set("dfs.ha.namenodes.HadoopHAcluster", "nn1,nn2");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn1", "server1:8020");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn2", "server2:8020");
        conf.set("dfs.client.failover.proxy.provider.HadoopHAcluster", "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");
        System.setProperty("HADOOP_USER_NAME", "alanchan");

        conf.setBoolean("mapred.map.tasks.speculative.execution", false);
        conf.setBoolean("mapred.reduce.tasks.speculative.execution", false);
        conf.set("es.nodes", "server1:9200,server2:9200,server3:9200");
        // ElaticSearch 索引名称
        conf.set("es.resource", "tomcat_log_2023-03");
        conf.set("es.query", "{\"query\":{\"bool\":{\"must\":[{\"match_all\":{}}],\"must_not\":[],\"should\":[]}},\"from\":0,\"size\":10,\"sort\":[],\"aggs\":{}}");

        Job job = Job.getInstance(conf, ESToHdfs2.class.getName());
        // 设置作业驱动类
        job.setJarByClass(ESToHdfs2.class);
        job.setInputFormatClass(EsInputFormat.class);

        job.setMapperClass(ESToHdfs2Mapper.class);

        job.setMapOutputKeyClass(NullWritable.class);
        job.setMapOutputValueClass(Text.class);

        FileOutputFormat.setOutputPath(job, new Path(out));

        job.setNumReduceTasks(0);

        return job.waitForCompletion(true) ? 0 : 1;
    }

}
  • 验证
    es hadoop hdfs,大数据相关组件介绍,hadoop,elasticsearch,hdfs,es-hadoop,日志分析,全文检索,es数据写入hdfs

2、json文件格式写入

将ES中的tomcat_log_2023-03索引数据存储至hdfs中，其中hdfs是HA。hdfs中是以json形式存储的

  • 其数据结构
key Uzm_44YBH2rQ2w9r5vqK , value {message=2023-03-15 13:30:00.001 [schedulerJobAllTask_Worker-1] INFO c.o.d.s.t.QuartzTask.executeAllTaskList-{37} - 生成消息记录任务停止执行结束*******, tags=[_dateparsefailure], class=c.o.d.s.t.QuartzTask.executeAllTaskList-{37}, level=INFO, date=2023-03-15 13:30:00.001, thread=schedulerJobAllTask_Worker-1, fields={source=catalina}, @timestamp=2023-03-15T05:30:06.812Z, log={file={path=/opt/apache-tomcat-9.0.43/logs/catalina.out}, offset=76165371}, info=- 生成消息记录任务停止执行结束*******}
  • 实现
import java.io.IOException;
import java.util.Iterator;
import java.util.Map;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;
import org.elasticsearch.hadoop.mr.EsInputFormat;
import org.elasticsearch.hadoop.mr.LinkedMapWritable;

import com.google.gson.Gson;

import lombok.Data;

  
public class ESToHdfsByJson extends Configured implements Tool {
    private static String out = "/ES-Hadoop/tomcatlog_json";

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        int status = ToolRunner.run(conf, new ESToHdfsByJson(), args);
        System.exit(status);
    }

    @Override
    public int run(String[] args) throws Exception {
        Configuration conf = getConf();
        conf.set("fs.defaultFS", "hdfs://HadoopHAcluster");
        conf.set("dfs.nameservices", "HadoopHAcluster");
        conf.set("dfs.ha.namenodes.HadoopHAcluster", "nn1,nn2");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn1", "server1:8020");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn2", "server2:8020");
        conf.set("dfs.client.failover.proxy.provider.HadoopHAcluster", "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");
        System.setProperty("HADOOP_USER_NAME", "alanchan");

        conf.setBoolean("mapred.map.tasks.speculative.execution", false);
        conf.setBoolean("mapred.reduce.tasks.speculative.execution", false);
        conf.set("es.nodes", "server1:9200,server2:9200,server3:9200");
        // ElaticSearch 索引名称
        conf.set("es.resource", "tomcat_log_2023-03");
        conf.set("es.query", "{\"query\":{\"bool\":{\"must\":[{\"match_all\":{}}],\"must_not\":[],\"should\":[]}},\"from\":0,\"size\":10,\"sort\":[],\"aggs\":{}}");

        Job job = Job.getInstance(conf, ESToHdfs2.class.getName());
        // 设置作业驱动类
        job.setJarByClass(ESToHdfsByJson.class);
        job.setInputFormatClass(EsInputFormat.class);

        job.setMapperClass(ESToHdfsByJsonMapper.class);

        job.setMapOutputKeyClass(NullWritable.class);
        job.setMapOutputValueClass(Text.class);

        FileOutputFormat.setOutputPath(job, new Path(out));

        job.setNumReduceTasks(0);

        return job.waitForCompletion(true) ? 0 : 1;
    }

    static class ESToHdfsByJsonMapper extends Mapper<Text, LinkedMapWritable, NullWritable, Text> {
        Text outValue = new Text();
        private Gson gson = new Gson();
        
        protected void map(Text key, LinkedMapWritable value, Context context) throws IOException, InterruptedException {
//            log.info("key {} , value {}", key.toString(), value);
            TomcatLog tLog = new TomcatLog();
//            tLog.setId(key.toString());
            Iterator it = value.entrySet().iterator();
            String name = null;
            String data = null;
            while (it.hasNext()) {
                Map.Entry entry = (Map.Entry) it.next();
                name = entry.getKey().toString();
                data = entry.getValue().toString();
                switch (name) {
                case "date":
                    tLog.setDate(data.replace('/', '-'));
                    break;
                case "thread":
                    tLog.setThread(data);
                    break;
                case "level":
                    tLog.setLogLevel(data);
                    break;
                case "class":
                    tLog.setClazz(data);
                    break;
                case "info":
                    tLog.setLogMsg(data);
                    break;
                }
            }
            outValue.set(gson.toJson(tLog));
            context.write(NullWritable.get(), outValue);
        }

    }

    @Data
    static class TomcatLog {
//        private String id ;
        private String date;
        private String thread;
        private String logLevel;
        private String clazz;
        private String logMsg;

    }
}
  • 验证
    es hadoop hdfs,大数据相关组件介绍,hadoop,elasticsearch,hdfs,es-hadoop,日志分析,全文检索,es数据写入hdfs

三、HDFS写入ES

本示例以上述例子中存入hdfs的数据。经过测试，ES只能将json的数据导入。
pom.xml参考上述例子

1、txt文件写入

先将数据转换成json后存入

import java.io.IOException;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;
import org.elasticsearch.hadoop.mr.EsOutputFormat;

import com.google.gson.Gson;

import lombok.Data;
import lombok.extern.slf4j.Slf4j;


@Slf4j
public class HdfsTxtDataToES extends Configured implements Tool {
    private static String out = "/ES-Hadoop/tomcatlog";

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        int status = ToolRunner.run(conf, new HdfsTxtDataToES(), args);
        System.exit(status);
    }

    @Data
    static class TomcatLog {
        private String date;
        private String thread;
        private String logLevel;
        private String clazz;
        private String logMsg;
    }

    @Override
    public int run(String[] args) throws Exception {
        Configuration conf = getConf();
        conf.set("fs.defaultFS", "hdfs://HadoopHAcluster");
        conf.set("dfs.nameservices", "HadoopHAcluster");
        conf.set("dfs.ha.namenodes.HadoopHAcluster", "nn1,nn2");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn1", "server1:8020");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn2", "server2:8020");
        conf.set("dfs.client.failover.proxy.provider.HadoopHAcluster", "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");
        System.setProperty("HADOOP_USER_NAME", "alanchan");

        conf.setBoolean("mapred.map.tasks.speculative.execution", false);
        conf.setBoolean("mapred.reduce.tasks.speculative.execution", false);
        conf.set("es.nodes", "server1:9200,server2:9200,server3:9200");

        // ElaticSearch 索引名称，可以不提前创建
        conf.set("es.resource", "tomcat_log_2024");
        // Hadoop上的数据格式为JSON,可以直接导入
        conf.set("es.input.json", "yes");

        Job job = Job.getInstance(conf, HdfsTxtDataToES.class.getName());
        // 设置作业驱动类
        job.setJarByClass(HdfsTxtDataToES.class);
        // 设置EsOutputFormat
        job.setOutputFormatClass(EsOutputFormat.class);

        job.setMapperClass(HdfsTxtDataToESMapper.class);

        job.setMapOutputKeyClass(NullWritable.class);
        job.setMapOutputValueClass(Text.class);

        FileInputFormat.setInputPaths(job, new Path(out));

        job.setNumReduceTasks(0);

        return job.waitForCompletion(true) ? 0 : 1;
    }

    static class HdfsTxtDataToESMapper extends Mapper<LongWritable, Text, NullWritable, Text> {
        Text outValue = new Text();
        TomcatLog tLog = new TomcatLog();
        Gson gson = new Gson();

        protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
            log.info("key={},value={}", key, value);
            // date:2023-03-13 17:33:00.001,
            // thread:schedulerJobAllTask_Worker-1,
            // loglevel:INFO,
            // clazz:o.q.c.QuartzScheduler.start-{461},
            // logMsg:- Scheduler DefaultQuartzScheduler_$_NON_CLUSTERED started.
            String[] lines = value.toString().split(",");
            tLog.setDate(lines[0]);
            tLog.setThread(lines[1]);
            tLog.setLogLevel(lines[2]);
            tLog.setClazz(lines[3]);
            tLog.setLogMsg(lines[4]);
            outValue.set(gson.toJson(tLog));
            context.write(NullWritable.get(), outValue);
        }
    }
}

2、json文件写入

import java.io.IOException;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.conf.Configured;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.NullWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.util.Tool;
import org.apache.hadoop.util.ToolRunner;
import org.elasticsearch.hadoop.mr.EsOutputFormat;

import lombok.extern.slf4j.Slf4j;

@Slf4j
public class HdfsJsonDataToES extends Configured implements Tool {
    private static String out = "/ES-Hadoop/tomcatlog_json";

    public static void main(String[] args) throws Exception {
        Configuration conf = new Configuration();
        int status = ToolRunner.run(conf, new HdfsJsonDataToES(), args);
        System.exit(status);
    }

    @Override
    public int run(String[] args) throws Exception {
        Configuration conf = getConf();
        conf.set("fs.defaultFS", "hdfs://HadoopHAcluster");
        conf.set("dfs.nameservices", "HadoopHAcluster");
        conf.set("dfs.ha.namenodes.HadoopHAcluster", "nn1,nn2");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn1", "server1:8020");
        conf.set("dfs.namenode.rpc-address.HadoopHAcluster.nn2", "server2:8020");
        conf.set("dfs.client.failover.proxy.provider.HadoopHAcluster", "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");
        System.setProperty("HADOOP_USER_NAME", "alanchan");

        conf.setBoolean("mapred.map.tasks.speculative.execution", false);
        conf.setBoolean("mapred.reduce.tasks.speculative.execution", false);
        conf.set("es.nodes", "server1:9200,server2:9200,server3:9200");

        // ElaticSearch 索引名称，可以不提前创建
        conf.set("es.resource", "tomcat_log_2023");
        //Hadoop上的数据格式为JSON,可以直接导入
        conf.set("es.input.json", "yes");
        
        Job job = Job.getInstance(conf, HdfsJsonDataToES.class.getName());
        // 设置作业驱动类
        job.setJarByClass(HdfsJsonDataToES.class);
        job.setOutputFormatClass(EsOutputFormat.class);

        job.setMapperClass(HdfsJsonDataToESMapper.class);

        job.setMapOutputKeyClass(NullWritable.class);
        job.setMapOutputValueClass(Text.class);

        FileInputFormat.setInputPaths(job, new Path(out));

        job.setNumReduceTasks(0);

        return job.waitForCompletion(true) ? 0 : 1;
    }

    static class HdfsJsonDataToESMapper extends Mapper<LongWritable, Text, NullWritable, Text> {
        protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
            log.info("key={},value={}",key,value);
            context.write(NullWritable.get(), value);
        }
    }
}

以上，简单的介绍了ES-hadoop组件功能使用，即通过ES-hadoop实现相互数据写入示例。文章来源地址https://www.toymoban.com/news/detail-538510.html

到了这里，关于9、Elasticsearch7.6.1 ES与HDFS相互转存数据-ES-Hadoop的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处： 如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：
领支付宝红包 赞助服务器费用

相关文章

  • [Java Framework] [ELK] Spring 整合ES (ElasticSearch7.15.x +)

    [Java Framework] [ELK] Spring 整合ES (ElasticSearch7.15.x +)

    ElasticSearch7.15.x 版本后，废弃了高级Rest客户端的功能 2.1 配置文件 2.2 配置类 3.1 索引的相关操作 3.2 实体映射相关操作 3.2.1 创建实体类 3.2.2 Doc实体操作API 3.3 聚合相关操作 3.3.1 创建实体类 3.3.2 创建操作类 [1] Elasticsearch Clients [2] Elasticsearch Clients - Aggregations

    2023年04月08日
    浏览(35)
  • Elasticsearch7.15.2 安装ik中文分词器后启动ES服务报错的解决办法

    Elasticsearch7.15.2 安装ik中文分词器后启动ES服务报错的解决办法

    下载elasticsearch ik中文分词器，在elasticsearch安装目录下的plugins文件夹下创建名为ik的文件夹，将下载的ik中文分词器解压缩到新建的ik文件夹下，再次运行 ./bin/elasticsearch启动ES服务时出现以下错误： Exception in thread \\\"main\\\" java.nio.file.NotDirectoryException: /Users/amelia/work/elasticsearch-7.1

    2024年02月12日
    浏览(45)
  • Logstash应用-同步ES（elasticsearch）到HDFS

    Logstash应用-同步ES（elasticsearch）到HDFS

    现有需求需要将elasticsearch的备份至hdfs存储，根据以上需求，使用logstash按照天级别进行数据的同步 数据采集存在时间漂移问题，数据保存时使用的是采集时间而不是数据生成时间 采用webhdfs无法对文件大小进行设置 解决@timestamp时区问题 logstash时间处理官网：https://www.elasti

    2024年01月16日
    浏览(42)
  • elasticsearch7.5.2 数据迁移解决方案

    elasticsearch7.5.2 数据迁移解决方案

    1. 迁移旧数据 a． 查看ES数据文件挂载目录位置 容器内路径： /usr/share/elasticsearch/data 如果没有挂载，需要将/usr/share/elasticsearch/data 压缩后，文件拷到宿主机上 bash # docker cp [容器名称:文件路径] [宿主机路径] b． 将data.tar.gz 上传至B服务器 迁移es数据文件至B服务器 /root 下 新增

    2024年02月12日
    浏览(41)
  • 本地部署Canal笔记-实现MySQL与ElasticSearch7数据同步

    本地部署Canal笔记-实现MySQL与ElasticSearch7数据同步

    本地搭建canal实现mysql数据到es的简单的数据同步，仅供学习参考 建议首先熟悉一下canal同步方式：https://github.com/alibaba/canal/wiki 本地搭建MySQL数据库 本地搭建ElasticSearch 本地搭建canal-server 本地搭建canal-adapter 本地环境为window11，大部分组件采用docker进行部署,MySQL采用8.0.27， 推荐

    2024年02月02日
    浏览(37)

  • datax 同步mongodb数据库到hive(hdfs)和elasticserch（es)

    1.mongodb版本：3.6.3。（有点老了，后来发现flinkcdc都只能监控一张表，多张表无法监控） 2.datax版本：自己编译的DataX-datax_v202210 3.hdfs版本：3.1.3 4.hive版本：3.1.2 1.增量数据：需要每隔1小时将mongodb中17个集合的数据同步至hive，因为有数据生成时间，才用datax查询方式，将上一个

    2023年04月23日
    浏览(33)
  • Docker安装ElasticSearch7.14.0 docker安装elasticsearch7.14.0完整详细教程

    Docker安装ElasticSearch7.14.0 docker安装elasticsearch7.14.0完整详细教程

    Docker常用命令大全 Docker ElasticSearch 官方仓库 我这边选择的版本是 7.14.0 ，这个版本比较安全可靠，在终端中执行以下命令以拉取 docker pull elasticsearch:7.14.0 使用以下命令创建一个新的 rabbitmq容器并将其启动： --name 是 容器别名 将 宿主机 9200 端口映射到 容器内 9200 and 端口 93

    2024年02月13日
    浏览(31)
  • 【elasticsearch】elasticsearch7.x集群搭建

    【elasticsearch】elasticsearch7.x集群搭建

    目录 一、服务器情况 二、安装前准备 1、下载es 2、配置服务器免密登录 3、升级jdk 三、安装es集群 (一)master服务器的操作 1、将es上传到Linux并解压 2、创建数据、日志存储文件夹 3、配置config/elasticsearch.yml 4、配置jvm 5、创建es用户 6、赋权限 7、修改配置文件 8、启动服务 9、启

    2023年04月09日
    浏览(34)
  • centos安装elasticsearch7.9

    centos安装elasticsearch7.9

    下载地址如下，版本号可以替换成自己想要的。 这里需要注意一点，需要根据你服务器的内核来进行选择，如下图所示，我就应该选择aarch64版本的，否则运行的时候会报错cannot execute binary file: Exec format error https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.9.3-linux-aarch64.

    2024年02月12日
    浏览(32)
  • Elasticsearch7学习笔记(尚硅谷)

    Elasticsearch7学习笔记(尚硅谷)

    Elasticsearch是一个 实时的分布式搜索和分析引擎 。它可以帮助你用前所未有的速度去处理大规模数据。它可以用于 全文搜索，结构化搜索以及分析 ，当然你也可以将这三者进行组合。 Elasticsearch是一个建 立在全文搜索引擎 Apache Lucene™ 基础 上的搜索引擎，可以说Lucene是当今

    2024年01月23日
    浏览(48)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包，优惠每天领

二维码1

领取红包

二维码2

领红包