Seatunnel及web安装搭建部署流程

这篇具有很好参考价值的文章主要介绍了Seatunnel及web安装搭建部署流程。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

本博客记录了seatunnel安装部署的流程,相关注意事项也有提示,关于jar包问题有相关单独的文章,点击链接即可。

seatunnel及web安装常见问题与解决方法_seatunnel web-CSDN博客

准备工作

Java环境

要求java8或者java11,并设置JAVA_HOME,如果JAVA_HOME无效,需要设置为有效状态。

echo ${JAVA_HOME}

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

创建安装软件目录

sudo mkdir -p /opt/seatunnel/backend

sudo mkdir -p /opt/seatunnel/web

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

下载软件

从https://seatunnel.apache.org/download/下载apache-seatunnel-2.3.3-bin.tar.gz

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

以及apache-seatunnel-web-1.0.0-bin.tar.gz

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

放置到准备好的目录

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

安装seatunnel

解压软件

sudo tar -zxvf apache-seatunnel-2.3.3-bin.tar.gz -C /opt/seatunnel/backend

sudo tar -zxvf apache-seatunnel-web-1.0.0-bin.tar.gz -C /opt/seatunnel/web/

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

配置环境变量

在/etc/profile.d/seatunnel.sh中配置环境变量

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

然后执行source /etc/profile

下载jar包

Seatunnel里面的connector对应的jar包需要自己下载,在下载之前先看看其下载逻辑

下载逻辑

在执行自动下载jar包钱,进入apache-seatunnel-2.3.3,查看vim bin/install-plugin.sh内容

主要逻辑如下:

  1. 使用mvnw进行下载
  2. 下载seatunnel-hadoop3-3.1.4-uber到lib文件夹下
  3. 下载在config/plugin_config配置的seatunnel的连接器到connectors/seatunnel文件下

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

在下载之前,可以对config/plugin_config进行编辑,注释不需要的connector,可以添加需要的connector

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

可vim connectors/plugin-mapping.properties查看所有支持的connector

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

相关目录

执行命令mkdir -p flink flink-sql spark seatunnel创建多个文件夹,如果使用flink或者spark引擎,需要建立相应的文件夹,如果使用seatunnel自带的则不需要建立flink和spark文件夹。

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

自动下载

sh bin/install-plugin.sh

执行命令即可,一般不推荐,因为从官网下载速度太慢,本人首次下载了2个小时没有下载完成,可以通过修改相关的代码进行手动加速下载。

手动下载

修改代码,通过阿里云的mvn源快速下载,然后将相关jar包复制到对应目录即可。

详细可参考以下文章的方法,可加速下载jar包。

seatunnel及web安装常见问题与解决方法-CSDN博客

如果有特殊需求某个单独jar包,可以自己手动进入Central Repository: org/apache/seatunnel下载,比如要下载hadoop的包,可以进入下面网址手动点击下载

Central Repository: org/apache/seatunnel/seatunnel-hadoop3-3.1.4-uber

注意:下载jar复制到两个文件夹,一个是lib文件夹,一个是connectors/seatunnel文件夹。

运行

测试

进入主文件夹/opt/seatunnel/backend/apache-seatunnel-2.3.3执行命令:

sudo ./bin/seatunnel.sh --config ./config/v2.batch.config.template -e local

观察到日志有如下信息表示运行测试成功

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

启动服务

 nohup sh bin/seatunnel-cluster.sh 2>&1 &

查看日志tail -f logs/seatunnel-engine-server.log 有类似信息打印出。

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

必须启动seatunnel的server,web端服务才能正常运行。

安装seatunnel-web

准备工作

在seatunnel的web端机器上需要部署seatunnel客户端,如果服务端与web端在同一台机器,则可跳过此步。跳过此步,因为测试环境都部署在同一台机器上。如有需要可以访问https://seatunnel.apache.org/docs/seatunnel-engine/deployment/#6-config-seatunnel-engine-client

解压软件

sudo tar -zxvf apache-seatunnel-web-1.0.0-bin.tar.gz -C /opt/seatunnel/web/

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

初始化数据库

修改配置

将script/seatunnel_server_env.sh相关配置改为你的对应的数据库信息

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

此处HOSTNAME,PORT等名称容易与系统其他名称冲突,加上前缀STWEB_

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

给script/init_sql.sh相关变量加上前缀STWEB_

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

执行初始化数据库命令

执行命令sh init_sql.sh,无异常则执行成功。

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

配置后端服务

修改端口与数据源

vim conf/application.yml修改端口号和数据源信息

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

配置client信息

sudo cp /opt/seatunnel/backend/apache-seatunnel-2.3.3/config/hazelcast-client.yaml ./conf/

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

配置支持的插件信息

sudo cp /opt/seatunnel/backend/apache-seatunnel-2.3.3/connectors/plugin-mapping.properties ./conf/

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

配置jar包

配置jar包非常关键,否则会出现各种各样的问题,常见的有:

1.没有数据源可以进行创建

2.没有source或者sink进行选择

3.配置好任务后无法执行

配置元数据mysql的jar包

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

将mysql-connector-java-8.0.15.jar包复制到

/opt/seatunnel/web/apache-seatunnel-web-1.0.0-bin/libs

配置数据源jar包

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

将相关jar包复制到/opt/seatunnel/web/apache-seatunnel-web-1.0.0-bin/libs

注意事项

元数据和数据源的jar包还需要要复制到后端lib文件夹/opt/seatunnel/backend/apache-seatunnel-2.3.3/lib

否则在配置好web任务时,后台根本不执行!!!

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

数据源jar包下载方式查看

seatunnel及web安装常见问题与解决方法-CSDN博客 中如下部分

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

启动服务

sudo sh bin/seatunnel-backend-daemon.sh start

访问ip:8081/ui,此端口为conf/application.yml中配置的端口

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

默认用户名,密码为admin/admin

登录进入后,点击数据源,创建数据源,可看到如下页面。

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

配置任务

下面简单进行一个demo任务的配置,按照截图进行即可

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

Source端选择官方的seatunnel中的role表

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

Sink端新建另一个库seatunnel_bak,新建一个与seatunnel中role一样的表

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

运行实例

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

任务运行成功后,查询目的数据库的数据,结果符合预期。

select *,'org' flag from seatunnel.`role` 

union all 

select *,'dest' flag from seatunnel_bak.`role` 

Seatunnel及web安装搭建部署流程,seatunnel,web,安装,mvn

至此完成seatunnel及web的整体流程搭建与测试。文章来源地址https://www.toymoban.com/news/detail-756395.html

到了这里,关于Seatunnel及web安装搭建部署流程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • seatunnel及web安装常见问题与解决方法

    seatunnel及web的正常安装流程见 Seatunnel及web搭建流程-CSDN博客 一步一步按照以上博客流程进行安装,正常情况下能顺利跑通seatunnel及web的demo。 此博客为安装过程中遇到的一些棘手问题总结。 正常安装后,都会遇到报错,下面是总结的一些常见的异常问题 主要原因是,hadoop相

    2024年02月03日
    浏览(31)
  • Seatunnel部署及一些出错

    先确保有Java,确保版本大于1.8.0 1. 设置JAVA_HOME 2. 下载Seatunnel,在指定文件夹路径下输入以下代码 3. 解压压缩包 4. 设置所需要的连接器都有哪些 打开路径  /seatunnel/apache-seatunnel-incubating-2.3.0/config 找到文件 plugin_config ,打开编辑,如下 中间内容看所需要的情况去增加 你可以

    2023年04月21日
    浏览(25)
  • 部署SeaTunnel分布式集群

    深入理解SeaTunnel:易用、高性能、支持实时流式和离线批处理的海量数据集成平台 SeaTunnel Engine 是 SeaTunnel 的默认引擎。SeaTunnel的安装包中已经包含了SeaTunnel Engine的所有内容。 在/etc/profile.d/seatunnel.sh中配置环境变量 SeaTunnel Engine 支持两种设置 jvm 选项的方式。 将 JVM 选项添加

    2024年02月09日
    浏览(35)
  • 海豚调度任务类型Apache SeaTunnel部署指南

    Apache DolphinScheduler已支持Apache SeaTunnel任务类型,本文介绍了SeaTunnel任务类型如何创建,任务参数,以及任务样例。 SeaTunnel 任务类型,用于创建并执行 SeaTunnel 类型任务。worker 执行该任务的时候,会通过 start-seatunnel-spark.sh 、 start-seatunnel-flink.sh 和 seatunnel.sh 命令解析 config 文件

    2024年04月08日
    浏览(37)
  • 【源码编译】Apache SeaTunnel-Web 适配最新2.3.4版本教程

    Apache SeaTunnel新版本已经发布,感兴趣的小伙伴可以看之前版本发布的文章 本文主要给大家介绍为使用2.3.4版本的新特性,需要对Apache SeaTunnel-Web依赖的版本进行升级,而SeaTunnel2.3.4版本部分API跟之前 版本不兼容 ,所以需要对 SeaTunnel-Web的 源码进行修改 适配。 克隆SeaYunnel-We

    2024年04月14日
    浏览(26)
  • seatunnel示例

    mysql数据同步到hive,大致流程如下 分为离线和实时两部分 我们先实现离线 所需要以下内容 Flink,Seatunnel,Mysql,Hive,Hadoop,Java 1)准备所需要的 2)开始 我的数据库有数据,没什么太大问题,懒得删 我的hive里有数据,这个没什么影响,不用管 ps1.错误一 hive的开启顺序是:先

    2024年02月13日
    浏览(25)
  • Seatunnel-2.3.0源码解析

    SeaTunnel是一个简单易用的数据集成框架,在企业中,由于开发时间或开发部门不通用,往往有多个异构的、运行在不同的软硬件平台上的信息系统同时运行。数据集成是把不同来源、格式、特点性质的数据在逻辑上或物理上有机地集中,从而为企业提供全面的数据共享。Sea

    2024年02月12日
    浏览(31)
  • # Apache SeaTunnel 究竟是什么?

    作者 | Shawn Gordon 翻译 | Debra Chen 原文链接 | What the Heck is Apache SeaTunnel? 我在2023年初开始注意到Apache SeaTunnel的相关讨论,一直低调地关注着。该项目始于2017年,最初名为Waterdrop,在Apache DolphinScheduler的创建者的贡献下发展起来,后者支持SeaTunnel作为任务插件。 我最初对于SeaT

    2024年04月08日
    浏览(92)
  • 01 - Apache Seatunnel 源码调试

    选择 seatunnel-examples ├── seatunnel-engine-examples ├── seatunnel-flink-connector-v2-example ├── seatunnel-spark-connector-v2-example 注意:需要调试哪些数据库,使用相应 connector ,就要在 pom 文件中添加。 如果需要其他的,自己补充即可

    2024年02月09日
    浏览(36)
  • Apache SeaTunnel 社区 3 月月报

    各位热爱 SeaTunnel 的小伙伴们,SeaTunnel 社区 3 月月报来啦!这里将记录 SeaTunnel 社区每个月的重要更新,并评选出月度之星,欢迎关注。 感谢以下小伙伴 3 月为 Apache SeaTunnel 做的精彩贡献(排名不分先后): @Carl-Zhou-CN,@ilsl1007,@loveyang1990,@dailai,@liugddx,@CheneyYin,@litiliu,@ShaunWuu,@

    2024年04月11日
    浏览(32)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包