IDEA中搭建flink开发环境,看这一篇就够了,亲测有效

这篇具有很好参考价值的文章主要介绍了IDEA中搭建flink开发环境,看这一篇就够了,亲测有效。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

在使用flink进行应用开发的时候,通常都是将开发的应用程序,提交到flink集群中,但是这样对应用程序开发调试很不方便,所谓磨刀不误砍柴工,下面我整理一个在mac上使用idea开发flink程序的配置教程,具体如下。

核心依赖配置

添加flink应用程序开发必要的依赖:

<dependency>
    <groupId>org.apache.flink</groupId>
    <artifactId>flink-java</artifactId>
    <version>1.7.2</version>
</dependency>

<dependency>
    <groupId>org.apache.flink</groupId>
    <artifactId>flink-streaming-java_2.12</artifactId>
    <version>1.7.2</version>
    <scope>provided</scope>
</dependency>

此时启动开发的应用程序,会报错,报错信息如下:
IDEA中搭建flink开发环境,看这一篇就够了,亲测有效

报错原因主要在于应用提交后,无法启动本地flink框架。需要添加flink启动必须的依赖,该依赖是:flink-dist_2.11-1.11.2.jar,依赖的版本取决于下载flink包的版本,下载链接参考:https://www.apache.org/dyn/closer.lua/flink/flink-1.11.6/flink-1.11.6-bin-scala_2.11.tgz。

然后在lib下可以找到该依赖,并把该依赖添加到应用程序的classpath下,具体操作方式如下图:
IDEA中搭建flink开发环境,看这一篇就够了,亲测有效
IDEA中搭建flink开发环境,看这一篇就够了,亲测有效

改依赖添加之后,flink应用程序就可以启动起来。
IDEA中搭建flink开发环境,看这一篇就够了,亲测有效

启动日志配置

截止到目前,可以在idea上启动flink应用程序,但是还不够完美,为了更好的观察flink启动过程,最好能将flink的启动过程的日志打印出来,此时需要在应用程序中对flink的日志进行配置,具体配置如下:

1.添加依赖

<dependency>
   <groupId>ch.qos.logback</groupId>
   <artifactId>logback-core</artifactId>
   <version>1.2.3</version>
</dependency>
<dependency>
   <groupId>ch.qos.logback</groupId>
   <artifactId>logback-access</artifactId>
   <version>1.2.3</version>
</dependency>
<dependency>
   <groupId>ch.qos.logback</groupId>
   <artifactId>logback-classic</artifactId>
   <version>1.2.3</version>
</dependency>

2.logback.xml

<configuration>
    <property name="CONSOLE_LOG_PATTERN"
              value="%yellow(%d{yyyy-MM-dd HH:mm:ss.SSS}) [%blue(%thread)] %highlight(%-5level) %green(%logger{60}) %blue(%file:%line) %X{sourceThread} - %cyan(%msg%n)"/>
    <appender name="console" class="ch.qos.logback.core.ConsoleAppender">
        <encoder> 
            <pattern>${CONSOLE_LOG_PATTERN}</pattern>
            <charset>UTF-8</charset>
        </encoder>
    </appender>

    <root level="INFO">
        <appender-ref ref="console"/>
    </root>


    <logger name="akka" level="INFO">
        <appender-ref ref="console"/>
    </logger>
    <logger name="org.apache.kafka" level="INFO">
        <appender-ref ref="console"/>
    </logger>
    <logger name="org.apache.hadoop" level="INFO">
        <appender-ref ref="console"/>
    </logger>
    <logger name="org.apache.zookeeper" level="INFO">
        <appender-ref ref="console"/>
    </logger>

    <logger name="org.apache.flink.shaded.akka.org.jboss.netty.channel.DefaultChannelPipeline" level="ERROR">
        <appender-ref ref="console"/>
    </logger>
</configuration>

此时再次启动应用程序,进行观察验证:
IDEA中搭建flink开发环境,看这一篇就够了,亲测有效

web ui配置

开发过flink程序的老铁都知道,flink提供了一套web ui,可以很方便的查看应用程序的执行状态,应用的配置信息等。

那么在idea中启动的应用程序可以访问web ui吗?答案是肯定的,不过需要在应用程序中配置web ui的启动端口:

Configuration configuration = new Configuration();
        configuration.setString("rest.port","8082"); 
        StreamExecutionEnvironment env = 
          StreamExecutionEnvironment.createLocalEnvironmentWithWebUI(configuration);
                

此时在此启动应用程序,然后访问如下地址:http://localhost:8082
IDEA中搭建flink开发环境,看这一篇就够了,亲测有效
哈哈,到这里终于成功了,接下来就可以开心的编写代码了。文章来源地址https://www.toymoban.com/news/detail-409576.html

到了这里,关于IDEA中搭建flink开发环境,看这一篇就够了,亲测有效的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包赞助服务器费用

相关文章

  • 【标准解读】Autosar 复杂驱动(CDD)开发--看这一篇就够了

    【标准解读】Autosar 复杂驱动(CDD)开发--看这一篇就够了

    最近看到有朋友提问,“复杂驱动和Linux驱动有啥区别?” 看到几个回答挺好的,“Linux驱动是真正的驱动,复杂驱动只是在autosar范畴的说法,内容不一定是驱动,可能同时包含底层、算法、应用层等其他东西” 简而言之,没办法统一标准的东西,都放在复杂驱动了;例如功

    2024年02月03日
    浏览(16)
  • 1秒将本地SpringBoot项目jar包部署到Linux环境(看这一篇就够了)

    1秒将本地SpringBoot项目jar包部署到Linux环境(看这一篇就够了)

    在IDEA编辑器中 一键 将本地已经打包好的 SpringBoot 项目部署到 linux 环境,实现 秒级 部署 前置知识:需掌握Maven的打包 在windows环境使用命令启动SpringBoot项目 在Linux环境使用命令启动项目 在Linux环境使用脚本启动项目 优化脚本,每次启动时先关闭旧项目 分离依赖,每次上传

    2024年02月04日
    浏览(37)
  • 接口测试,后端接口还没开发完,如何测?解决看这一篇就够了......

    在测试的时候经常会碰到后端开发工程师的接口还没有开发完成,但是测试任务已经分配过来。没有接口怎么测试呢? 测试人员可以通过 mock server 自己去造一个接口来访问。mock server 可用于模拟真实的接口。收到请求时,它会根据配置返回对应的请求。 Postman接口测试:

    2024年02月08日
    浏览(7)
  • 集显安装pytorch教程,cuda和cudann环境配置torch-GPU版本看这一篇就够了

    集显安装pytorch教程,cuda和cudann环境配置torch-GPU版本看这一篇就够了

    集显看最下面 首先GPU安装教程 1.安装Anaconda (这个是可以安装环境和前置的软件),这个网址是清华源下载,可以去官网下载 Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror 2.安装CUDA (这个是显卡驱动,需要安装好以用显卡计算,缩短运行时间)(c

    2024年02月02日
    浏览(21)
  • 精通线程池,看这一篇就够了

    精通线程池,看这一篇就够了

    当我们运用多线程技术处理任务时,需要不断通过new的方式创建线程,这样频繁创建和销毁线程,会造成cpu消耗过多。那么有没有什么办法 避免频繁创建线程 呢? 当然有,和我们以前学习过多连接池技术类似,线程池通过提前创建好线程保存在线程池中, 在任务要执行时取

    2023年04月17日
    浏览(39)
  • CSS基础——看这一篇就够了

    CSS基础——看这一篇就够了

    目录 一、CSS简介 1.CSS是什么? 2.CSS的作用 3.CSS的构成 二、CSS选择器 1.基础选择器 (1).标签选择器 (2)类选择器 (3)标签选择器 (4) 通配符选择器 2.复合选择器 (1)后代选择器(包含选择器) (2)子选择器 (3)并集选择器 (4)伪类选择器  三、基本属性 1.字体属性

    2024年02月09日
    浏览(41)
  • SourceTree使用看这一篇就够了

    SourceTree使用看这一篇就够了

     你梦想有一天成为git大师,然而面对复杂的git命令,你感觉TMD这我能记得住吗?你曾经羡慕从命令行敲git命令,才会更加炫酷,然而时间一长,TMD命令我有忘了。那么今天我介绍的这款工具会让你从git命令中解救出来,这就是git可视化工具SourcTree。 事实上Git的功能十分强大

    2024年02月08日
    浏览(11)
  • 还不会二分查找?看这一篇就够了

    还不会二分查找?看这一篇就够了

    二分查找分为整数二分和浮点数二分,一般所说的二分查找都是指整数二分。 满足单调性的数组一定可以使用二分查找,但可以使用二分查找的数组不一定需要满足单调性。 不妨假设我们找到了条件 C 1 C_1 C 1 ​ ,它和它的 对立条件 C 2 C_2 C 2 ​ 能够将数组 a a a 一分为二,

    2024年01月19日
    浏览(13)
  • 超图(HyperGraph)学习,看这一篇就够了

    超图(HyperGraph)学习,看这一篇就够了

    最近事多,好久没更新了,随便写写(Ctrl+V)点 一、超图定义 通常图论中的图,一条edge只能连接2个vertex,在超图中,不限量 如何理解呢,就用我正在做的KT问题来看:7道题目-7个顶点;4种概念-4条超边,其中第1,2,3题都是考察概念1的,则构建一个包含了这仨的超边,以此类

    2024年02月02日
    浏览(10)
  • Linux 命令大全(看这一篇就足够)

    Linux 命令大全(看这一篇就足够)

    目录 第一章:Linux目录结构 第一节:基本介绍 第二节:Linux具体目录结构 第二章:Linux常用命令 第一节:目录处理命令 2.1.1 命令格式 2.1.2 列出目录的内容:ls 命令 2.1.3 创建目录:mkdir 命令 2.1.4 切换工作目录:cd 命令 2.1.5 显示当前路径:pwd 命令  2.1.6 删除空目录:rmdir 命

    2024年02月03日
    浏览(19)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包