【ETL工具】本地环境IDEA远程DEBUG调试Flume代码

这篇具有很好参考价值的文章主要介绍了【ETL工具】本地环境IDEA远程DEBUG调试Flume代码。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试

🦄 个人主页——🎐个人主页 🎐✨🍁

🪁🍁🪁🍁🪁🍁🪁🍁 感谢点赞和关注 ,每天进步一点点!加油!🪁🍁🪁🍁🪁🍁🪁🍁

目录

🦄 个人主页——🎐个人主页 🎐✨🍁

一、问题说明

二、操作步骤

2.1 idea创建远程调试


一、问题说明


Flume 自定义 HDFS-Sink,远程服务器进行部署flume打包好后的代码,本地监控远程flume程序端口,进行本地debug和学习Flume 整个运行流程和Event 数据结构学习。


二、操作步骤


2.1 bin/flume-ng 启动脚本配置


[root@hdp105 apache-flume-1.9.0-bin]# cat bin/flume-ng | grep JAVA_OPT
  $EXEC $JAVA_HOME/bin/java $JAVA_OPTS $FLUME_JAVA_OPTS "${arr_java_props[@]}" -cp "$FLUME_CLASSPATH" \
#JAVA_OPTS="-Xmx20m"
JAVA_OPTS="-Xmx1000m -Xdebug -Xrunjdwp:transport=dt_socket,address=8000,server=y,suspend=y"

2.2 idea创建远程调试


新增远程debug模式

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试

选择 Remote 配置选项

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试

填写flume 启动的服务器IP 和端口

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试

远程启动flume程序,本地也启动该flume程序,打上断点。就可以了

bin/flume-ng  agent -n ipva_flume  --conf ./conf/  -f ./conf/traffic_ipva_DSCToHBase/traffic_ipva_DSCToHBase.conf -property "flume.monitoring.type=http;flume.monitoring.port=37242"

远程的flume 启动

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试

文件放到source监控的路径

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试

打上断点, 本地的flume 也启动,进入debug 模式,我们可以看到 如下 :headers和body中的数据

【ETL工具】本地环境IDEA远程DEBUG调试Flume代码,ETL 工具,etl,intellij-idea,flume,flume代码调试,idea远程调试文章来源地址https://www.toymoban.com/news/detail-716018.html

到了这里,关于【ETL工具】本地环境IDEA远程DEBUG调试Flume代码的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • IDEA远程DeBug调试

    1. 介绍 当我们在开发过程中遇到一些复杂的问题或需要对代码进行调试时,远程调试是一种非常有用的工具。使用 IntelliJ IDEA 进行远程调试可以让你在远程服务器上的应用程序中设置断点、查看变量和执行调试操作。 远程调试的好处如下: 提供更方便的调试环境:通过远程

    2024年02月11日
    浏览(36)
  • Idea实现远程debug调试

    2024年04月26日
    浏览(33)
  • jvm开启远程调试功能;idea远程debug

    有时候一些问题本地调试无法复现,这个时候可以开启 jvm 的远程调试功能 jdk8 jdk11/17 修改 tomcat 的 bin 下的 catalina.sh 文件 把 jpda_address 对应的 localhost:8000 改为 8000 ,意味着允许任何人访问。 填上对应的 ip 和端口即可,当然要确保被连接的服务的代码和本地是一致的,不然代

    2024年02月11日
    浏览(28)
  • 使用 IDEA 远程 Debug 调试,太实用了!

    有时候我们需要进行远程的debug,本文研究如何进行远程debug,以及使用 IDEA 远程debug的过程中的细节。看完可以解决你的一些疑惑。 远程debug的服务,以springboot微服务为例(springcloud的应该差不多,我没研究过)。首先,启动springboot需要加上特定的参数。 推荐一个开源免费的

    2024年02月12日
    浏览(26)
  • IntelliJ IDEA远程调试:使用IDEA Remote Debug进行高效调试的指南

    在开发分布式系统时,调试是一个重要但复杂的环节。开发者通常需要跨越多个服务、模块和线程来追踪和解决问题。在没有远程调试的情况下,许多开发者会在代码中添加各种日志语句,然后重新部署和上线来调试。这种方法不仅费时,而且可能引入额外的错误或问题。

    2024年02月09日
    浏览(28)
  • IDEA 远程 Debug 调试,你可以不需要,但是要会

    远程debug真的很有用,我个人的真实经历就是有一次,我新开发的功能,在生产上没生效,我询问了运维多次,运维也多次确认回复说是最新的包,又是查日志,对数据,仍然没发现问题,最后我就采用远程debug发现我新开发的代码不存在。 所以不需要不要紧,但是要会,作

    2024年02月08日
    浏览(45)
  • IDEA Go语言开发环境无法debug调试

    使用idea 搭建go开发环境后如果debug调试可能会遇到错误: could not launch process: decoding dwarf section info at offset 0x0: too short。 有些回答go get -u github.com/derekparker/delve/cmd/dlv 。如果使用go mod方式开发的话这种方式是行不通的,最直接的方法是把dlv项目下载下来自己编译生成dlv.exe。 进

    2024年02月14日
    浏览(36)
  • 小白如何进行代码调试Debug(IDEA 2023版)

    本篇文章主要介绍如何进行断点调试 开始调试主要分为两步,第一为设置断点,第二才进行调式操作。 1、设置断点 设置断点的方法基本上大多数的 IDE 都一致,当我们在代码行上的数字旁鼠标左键点击一下,便设置断点成功(可设置多个断点)。断点还可以进行其余设置

    2024年02月07日
    浏览(24)
  • IDEA中快速定位源代码问题(Debug调试)

    视频讲解参考:https://www.bilibili.com/video/BV1EQ4y1y74Y?vd_source=67ae2f0684b162aef8c3f8826109285e 进入debug界面后,以上五个图标功能: 1.回到当前断点所在界面 2.从当前断点处逐行执行(碰到自己写的方法不会进入) 3.逐行执行(碰到自己写的方法会进入) 4.回退 5.运行到光标处

    2024年03月19日
    浏览(32)
  • IDEA远程调试kubernetes环境中的容器应用(Java应用)

    IDEA远程调试kubernetes环境中的容器应用(Java应用) 应用场景:Java开发的项目在本地运行正常,然后将 容器运行方式的项目发布到远端服务器上线运行后,出现了异常情况,此时频繁去修改代码发布镜像进行问题验证,将耗费较大的时间成本。 为了提高问题定位和代码调试效率

    2024年02月10日
    浏览(34)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包