3.2.0 版本预告!远程日志解决 Worker 故障获取不到日志的问题

这篇具有很好参考价值的文章主要介绍了3.2.0 版本预告!远程日志解决 Worker 故障获取不到日志的问题。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

3.2.0 版本预告!远程日志解决 Worker 故障获取不到日志的问题

Apache DolphinScheduler 3.2.0 版本已经呼之欲出,8 月 中下旬,这个大版本就要和用户见面了。为了让大家提前了解到此版本更新的主要内容,我们已经制作了几期视频和内容做了大致介绍,包括《重磅预告!Apache DolphinScheduler 3.2.0 新功能“剧透”》、《3.2.0 版本预告!Apache DolphinScheduler API 增强相关功能》。

今天,我们来介绍另一个用户比较关心的新功能——Remote logging(远程日志),看看是否能帮助你的工作变得更简单吧!

https://www.bilibili.com/video/BV1U14y1q74N/?spm_id_from=333.999.0.0

今天由为大家介绍 Apache DolphinScheduler 3.2.0 的一个新特性,叫做 Remote logging。我们会从三个部分来说明这个功能,第一,它是什么,解决什么问题;第二,它如何配置;第三,我们怎么去使用它?

远程日志是什么?解决什么问题?

在没有这个功能之前,我们的任务日志流向是这样子的,任务运行完的时候,Worker 会将日志写到 Worker 本地,当用户需要去查看任务日志的时候,我们会发送请求这个 Worker 的日志,然后展示给用户。当一些意外情况出现,导致这个 Worker 的日志不存在,或者是这个 Worker 不存在的时候,用户在页面上就看不了日志了。

但是有了 Remote Logging,这个问题就能得到比较好的解决。它整体的流程如下所示:

3.2.0 版本预告!远程日志解决 Worker 故障获取不到日志的问题

我们只是增加了这条线的部分以及下面 Remote Logging 的部分,当我们的 Worker 将日志写到本地的时候,会有个异步线程将写到本地的 log 同步到 Remote Logging。当一些意外情况发生导致日志丢失,但用户想要看日志详细信息的时候,我们会有个请求将日志从远端拉到本地,然后本地返回。

为什么我们要设置这样一个动作呢?这样做首先能保证接口的一致性,就是日志全部都是从 Worker 发送给 API Server,然后去读取的。其次是尽量减少我们远端的带宽,只有当本地日志缺失的时候,我们才会去下载远端的日志。

如何配置?

接下来我们快速说明一下如何配置 Remote Logging。在我们的发版文件里会有关于如何启动和配置的简单介绍。

首先,我们要修改 Common Properties 文件,将这个 remote.logging.enable 设置存储并且设置为你想要存储的远端存储介质。目前我们支持了 OSS、S3 和 GCS。

其次就是一些第三方远端存储的配置,比如 AccessKey、Secret 以及对应的 bucket 和 region 等。

如何使用?

我们回到页面,体验一下 Remote Logging 是如何使用,以及我们是如何判断它是生效的。

我们这里有一个简单的工作流,它只有两个任务,分别打印了 1 和 2 这两个信息。手动触发这个工作流并观察日志,看看它是否正常地被写到远端。

当我们触发了工作流运行,并且工作流是运行成功的,我们将日志写到远端。当任务被运行成功的时候,我们就开始写日志了。

这一行就能很明显地看到,日志被写成功之后,会同时有一个异步线程将日志同步到远端的存储。

因为我们这里使用的是 S3,它将本地的路径的日志同步了一份到远端。回到 S3 的页面,可以看到 log 已经存在了。

接着我们模拟一下当本地 Worker 的日志缺失的时候,我们如何去读日志。 我们手动将这个日志文件删除,可以看到这个文件夹下面有两个日志文件,分别是 3 和 4。将这两个文件都删除,可以看到这里已经没有对应的日志文件了。

此时,如果是之前的版本,我们已经不能查看最新的 instance 的日志文件了,但是有了 Remote Logging,就会发现本地不存在这个日志,将日志从远端下载到本地给用户查看。

模拟一下,这里我们点击查看任务日志,会发现任务日志已经被显示出来了。再去查看一下本地文件,会发现刚刚不存在的日志已经下载下来了,并且只下载了我们需要的那一个。

接下来看看另一个任务的日志,同样发现是能被显示的,本地的两个日志文件也被下载下来了。查看服务日志,我们发现它已经检测到日志文件不在本地出现,会去远端获取这个日志文件。

这就是 Remote Logging 功能的大致介绍,如果它能解决你的问题,欢迎在 8 月中下旬发布 3.2.0 版本的时候,升级版本来体验一下!

本文由 白鲸开源 提供发布支持!文章来源地址https://www.toymoban.com/news/detail-653344.html

到了这里,关于3.2.0 版本预告!远程日志解决 Worker 故障获取不到日志的问题的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • java的springboot框架中使用logback日志框架使用RabbitHandler注解为什么获取不到消费的traceId信息?

    当使用 Logback 日志框架和 RabbitMQ 的 @RabbitHandler 注解时,如果无法获取消费的 traceId 信息,可能是因为在处理 RabbitMQ 消息时,没有正确地将 traceId 传递到日志中。 为了将 traceId 传递到日志中,你可以利用 MDC(Mapped Diagnostic Context)机制。MDC 是一个线程绑定的上下文容器,允许

    2024年02月09日
    浏览(44)
  • log4j控制台不打印日志的故障解决方案

    接管了别的项目组的一个代码,在IDAE调试程序的过程中,发现log4j日志居然没有打印在控制台上,日志相关代码也没有问题。 在网上搜索了一圈,总结了一下个人解决这个问题的流程。 1. 判断用了什么配置文件 不知道是出于什么目的,项目中居然有log4j的properties和xml两个配

    2024年02月04日
    浏览(65)
  • idea 有时提示找不到类或者符号,日志报java: 找不到符号的解决

    解决一: idea maven编译成功,运行失败提示找不到符号,主要是get和set方法找不到符号,此时就是idea的lombok版本冲突 IDEA版本导致的Lombok失效,需要更新lombok版本到1.18.14及之后版本得到解决 修改完pom.xml文件后记得点一下Reload All Maven Projects     解决二: maven clean,然后关闭

    2024年02月16日
    浏览(46)
  • 小程序用户头像昵称获取不到解决办法

           1.  根据官方要求,不会要求强制性授权,头像和昵称也将被收回,给的是统一的头像和昵称,需要我们调用接口去获取微信头像和昵称。           2. 通过原生的标签调用来获取微信头像和微信昵称。 注意:这里的标签不能够修改,修改会导致头像回显问题和昵

    2024年02月11日
    浏览(42)
  • 解决CentOS7获取不到ip地址

    安装CentOS7后无法获取ip地址问题 将 ONBOOT=NO 修改为 ONBOOT=YES,保存后退出 单次关闭 永久关闭 重启虚拟机 提示:以上步骤即可解决虚拟机无法获取到ip地址问题。

    2024年02月11日
    浏览(34)
  • 前后端分离 后端获取不到header解决方案

    我这里只是把重要的逻辑放在里面,如果要看所有文件的话就太多了 这个案例不要拿来用,这个是有问题的,我只是讲一下问题在哪

    2024年02月12日
    浏览(62)
  • 解决pycharm中,远程服务器上文件找不到的问题

    一、问题描述         pycharm中,当我们连接到远程服务器上时。编译器中出现报错问题:        can\\\'t open file \\\'/tmp/OV2IRamaar/test.py\\\': [Errno 2] No such file or directory        第二节是原理解释,第三节是解决方法。 二、原理解释        实际上这是由于我们没有设置好工作路径导

    2024年02月05日
    浏览(45)
  • uni.getLocation和wx.getFuzzyLocatio解决获取不到位置 。

    uni.getLocation(OBJECT) | uni-app官网 地理位置接口新增与相关流程调整 | 微信开放社区 全局配置 | 微信开放文档 官方说明 1.微信开发者工具必须默认装C盘1/   2.检查代码支持基本库问题越低越好 3.wx.getFuzzyLocation使用步骤 wx.getFuzzyLocation({             type: \\\'wgs84\\\',             suc

    2024年02月14日
    浏览(42)
  • RequestContextHolder跨线程获取不到requests请求对象的解决方法

    最近在做一个项目,有个比较耗时的操作是启用线程进行异步操作,当时在启用的线程时,突然发现子线程无法获取父线程中的HttpServletRequest请求对象,因为是第一次遇到这种问题,所以记录一下解决方案。 在这里,我们简单模拟一下出现的问题。我们首先编写一个简单的

    2024年02月13日
    浏览(37)
  • 解决ios在公众号获取不到发票抬头回调的问题

    其实这个问题很简单,因为微信很多东西不方便直接调试,我们就习惯性的alert一下,然后选择了发票抬头后---安卓可以alert我们选择的数据,可是ios却什么也没有,其实造成这个是因为alert在ios被屏蔽了不回弹出,所以我们看不到任何alert,浪费了我们大把时间,哈哈哈。h5公

    2024年02月15日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包