Flink 并发或短时间频繁修改 Doris 同一张表, 报错: There is an update operation in progress for the current table.

这篇具有很好参考价值的文章主要介绍了Flink 并发或短时间频繁修改 Doris 同一张表, 报错: There is an update operation in progress for the current table.。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

2022/12/06 菜鸟记录.

场景1: Flink任务1: 监听Kafka TopicA 修改表1某条数据的a字段. 

           Flink任务2: 监听Kafka TopicB 修改表1某条数据的b字段. 

           当后端人员同时向TopicA和TopicB发送数据, 两个任务对 Doris 的 update 并发执行, 发生报错.

场景2: Flink 自定义 Sink, 用 jdbc 方式连接 Doris, 流式进行 update, 并行度为2. 发生报错.

报错: java.sql.SQLException: errCode = 2, detailMessage = There is an update operation in progress for the current table. Please try again later, or set enable_concurrent_update in fe.conf to true.

背景: Flink版本 1.14.4

         Doris版本 1.1.0

原因: 默认情况下, Doris 不允许同一时间对同一张表并发进行多个 update 操作. 场景1, 2都是对 Doris 的并发修改, 场景2用 Flink 流式修改速度过快, 上一次 update 没完成, 下一次 update 已经发送.

解决: 修改 FE 配置文件 fe.conf, 添加 enable_concurrent_update = true. 将 Doris 的并发 update 打开.

Flink 并发或短时间频繁修改 Doris 同一张表, 报错: There is an update operation in progress for the current table.

场景2也可以不改配置, 将 Sink 的并行度设置为1. 并在每次 update 之后 sleep 一下.文章来源地址https://www.toymoban.com/news/detail-420185.html

到了这里,关于Flink 并发或短时间频繁修改 Doris 同一张表, 报错: There is an update operation in progress for the current table.的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 如何处理 Flink 作业频繁重启问题?

    Flink 实现了多种重启策略 固定延迟重启策略(Fixed Delay Restart Strategy) 故障率重启策略(Failure Rate Restart Strategy) 没有重启策略(No Restart Strategy) Fallback重启策略(Fallback Restart Strategy) Flink支持不同的重启策略,以在故障发生时控制作业如何重启 默认的重启策略:如果没有

    2024年02月10日
    浏览(39)
  • 动态路由协议 - OSPF 基本配置 详解 (反掩码,三张表,Cost默认值修改 )

    目录 预备工作   : 基础配置  :        先启动 OSPF 的进程  :        创建区域 :         宣告  :    查看三张表  邻居表  :  数据库表 :   路由表 :  以下示拓扑为 OSPF 示范  :                                  第一步确定有几个广播域, 

    2024年01月20日
    浏览(58)
  • Apache Doris 系列: 基础篇-Flink SQL写入Doris

    本文介绍 Flink SQL如何流式写入 Apache Doris,分为一下几个部分: Flink Doris connector Doris FE 节点配置 Flink SQL 写 Doris Flink Doris connector 本质是通过Stream Load来时实现数据的查询和写入功能。 支持二阶段提交,可实现Exatly Once的写入。 1)需在 apache-doris/fe/fe.conf 配置文件添加如下配置

    2023年04月08日
    浏览(46)
  • Apache Doris (六十四): Flink Doris Connector - (1)-源码编译

     🏡 个人主页:IT贫道-CSDN博客   🚩 私聊博主:私聊博主加WX好友,获取更多资料哦~  🔔 博主个人B栈地址:豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频 目录 1. Flink与Doris版本兼容

    2024年01月18日
    浏览(52)
  • Doris+Flink搭建数据平台

    Doris 作为一款开源的 MPP 架构 OLAP 数据库,能够运行在绝大多数主流的商用服务器上。 安装:官网Doris安装 务必关注点 : 1 设置系统最大打开文件句柄数 2 Linux 操作系统版本需求 3 软件需求(Java,GCC) 4 机器角色分配(下图画线部分是重点,预防脑裂!) 设计好前置环境,开始

    2024年02月13日
    浏览(49)
  • Flink+Doris 实时数仓

    Doris基本原理 Doris基本架构非常简单,只有FE(Frontend)、BE(Backend)两种角色,不依赖任何外部组件,对部署和运维非常友好。架构图如下 可以 看到Doris 的数仓架构十分简洁,不依赖 Hadoop 生态组件,构建及运维成本较低。 FE(Frontend)以 Java 语言为主,主要功能职责: 接收用户

    2024年02月07日
    浏览(47)
  • Flink读写Doris操作介绍

    ​ Flink Doris Connector 可以支持通过 Flink 操作(读取、插入、修改、删除) Doris 中存储的数据。可以将 Doris 表映射为 DataStream 或者 Table。 Flink操作Doris修改和删除只支持在 Unique Key 模型上 pom.xml加入依赖 创建测试库测试表 Doris 和 Flink 列类型映射关系 Doris Type Flink Type NULL_TYPE

    2024年02月12日
    浏览(39)
  • flink streamload写入doris

    官方教程详细介绍了基于flink 1.16的各种写入方式,本文主要介绍的是基于flink 1.13的RowData 数据流(RowDataSerializer)写入

    2024年02月04日
    浏览(47)
  • 生态扩展:Flink Doris Connector

    官网地址: https://doris.apache.org/zh-CN/docs/dev/ecosystem/flink-doris-connector flink的安装: flink环境配置:vim /etc/profile 复制到flink的lib目录 doris官网:https://doris.apache.org/docs/ecosystem/flink-doris-connector

    2024年02月06日
    浏览(40)
  • Flink CDC和Flink SQL构建实时数仓Flink写入Doris

    软件环境 Flink1.13.3 Scala 2.12 doris 0.14 一、MySQL 开启binlog日志、创建用户 1.开启bin log MySQL 8.0默认开启了binlog,可以通过代码show variables like \\\"%log_bin%\\\";查询是否开启了,show variables like \\\"%server_id%\\\";查询服务器ID。 上图分别显示了bin long是否开启以及bin log所在的位置。 2.创建用户 C

    2024年02月02日
    浏览(76)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包