蚂蚁集团SQLess 开源,与内部版有何区别?

这篇具有很好参考价值的文章主要介绍了蚂蚁集团SQLess 开源,与内部版有何区别?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

当我们使用关系型数据库时,SQL 是联系起用户和数据库的一座桥梁。

SQL 是一种高度非过程化的语言,当我们在编写SQL 时,表达的是想要什么数据,而不是怎么获取数据。因此,我们往往更关心SQL 有没有满足业务逻辑,比如返回结果、响应速度、DB 吞吐等,不太想关心SQL 有没有性能问题、索引如何创建、SQL 问题怎么快速定位等风险。同时,我们希望这部分能力可以通过自动化、智能化产品来解决。

上述情况也一直困扰着蚂蚁集团内部的业务,在探索解决方案的过程中,得益于蚂蚁业务场景对数据库稳定性、吞吐量的极致要求,孵化了一款覆盖SQL 生命周期的诊断优化产品—— SQLess 。它服务于蚂蚁8000+用户、70+业务站点,被集成至30+业务平台,减少90% 的SQL 异常、提升80%故障恢复时效,保障了业务稳定性,是数据库的基础设施之一。

近日,SQLess 宣布开源,为蚂蚁集团之外的业务提供服务,包含SQL 防控体系、SQL 应急体系、SQL 优化体系三道防线。同时,SQLess 团队希望将蚂蚁集团内部沉淀的SQL 诊断优化经验与更多企业进行分享与交流。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

SQLess 针对OceanBase 的SQL 优化实践

SQLess 开源后,成为了OceanBase 生态中的一员。SQLess 基于OceanBase 的Hint 机制,提供诊断优化、自愈限流、索引演进等能力。通过建立外部实时的流量检测,结合OceanBase 内部提供的统计信息,进行热点流量检测,用于智能识别热点行、锁冲突、热点账号、大小账号等细粒度SQL 问题。同时建立知识库体系,用于自动回归检测和算法学习。

整体线上自愈流程如下:

监控指标识别到异常 -> SQLess 找到根因SQL  -> SQLess 提供诊断建议 -> 自愈执行诊断操作 -> 监控指标回归正常

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

针对增量SQL ,SQLess 结合蚂蚁的研发流程,提供SQL Review 能力,有效地将SQL 风险阻拦在上线之前。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

同时,针对存量SQL ,SQLess 结合治理平台,提供治理意见和性能回馈,有效push 存量问题SQL 的治理。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

SQLess 内部版与开源版区别

目前,SQLess 在蚂蚁集团的实践更偏向于运维视角,解决的核心问题是蚂蚁业务在OceanBase 上的SQL 稳定性。区别于内部版,SQLess 开源版更偏向于研发视角,帮助用户更高效地写出优雅且高性能的SQL ,让用户花更少时间关注SQL 风险,更专注于SQL 业务逻辑本身,提升业务研发效率和数据库稳定性,并且提供全方位的SQL 监控能力,帮助用户解决SQL 风险并提升业务性能。正如SQLess 愿景描述的那样,让用户写SQL 时可以更聚焦于实现业务逻辑,而不需要关注性能问题:Less on SQL tuning,More to SQL doing。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

SQLess 适配各个研发阶段,将优化建议更加简单明了地告诉用户,追求通用性、可扩展性,可以接入不同的数据库引擎,用户也可以灵活配置或创建各个规则,用于适配自己的研发体系。

SQLess 开源版提供以下四个主要功能:

· SQL 优化:支持索引优化、研发规范 ( PMD ) 扫描、Rewrite 改写建议。

· SQL 审核:SQL Review 能力,可以集成在CICD pipeline 中。

· SQL 分析:multi-SQL 维度的综合分析,可以基于Slow log 、各个云厂商流量接口等方式进行SQL 优化。

· SQL 监控:实时态的TopSQL 分析,提供SQL 动态的实时监控,提供采样流水、执行计划、统计信息等辅助信息帮助用户找到问题SQL 、分析问题根因。

目前支持的数据库引擎包括OceanBase 3.x 版本和OceanBase 4.x 版本,以及MySQL 5.6 版本和MySQL 5.7 版本,未来还将支持更多数据库。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

SQLess 架构设计及产品规划

为了更好地适配不同业务场景、扩展规则、支持更多的数据库引擎,SQLess 大部分组件都以插件化设计。

用户可以方便地使用规则或者自定义规则来适配自己的业务场景。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

对于优化器,采用“前置规则->剪枝规则->RBO 规则->CBO 成本计算”架构,支持三个优化能力:

  • 索引优化

  • 研发规范扫描

  • SQL Rewrite 优化

对于解析器,使用插件化框架,支持不同解析任务。

  • SQL 解析,支持不同DB 引擎的接入,已支持OceanBase 、MySQL

  • 文本解析:支持不同文本类型的接入,已支持MySQL 慢查询日志、SQL 流量文件

  • XML 解析:支持不同ORM 框架的接入,已支持MyBatis

规则引擎也使用插件化框架,支持各维度的规则沉淀:

  • RBO 规则

  • Rewrite  规则

  • 研发规范

  • 异常诊断(规划中)

  • 根因分析(规划中)

目前,SQLess 团队大部分工作聚焦在规则场景沉淀、数据库引擎扩展、优化器扩展、ORM 框架扩展、多云产品接入等工作上。希望帮助用户更加简单、准确地解决各类SQL 问题,比如:

1. 规则场景沉淀,不断丰富SQL PMD /SQL Rewrite /异常诊断等规则。

2. 数据库引擎扩展,目前支持OceanBase3.x /4.x、MySQL 5.6 /5.7,后续计划将持续支持MySQL8.0 /PostgreSQL /Oracle /TiDB /PolarDB 等数据库引擎。

3. 优化器扩展,目前支持Cost-Based Optimizer ,后续计划将持续支持AI-Based Optimizer 、Query-Based Workload Analysis 等更强大的优化器特性。

4. ORM框架扩展,目前只适配了MyBatis ,后续将持续支持GORM/Hibernate /SQLAlchemy 等ORM 框架。

5. 多云产品接入,持续支持多云产品的接入,类如OceanBase Cloud /Aliyun RDS /TiCloud 等。

6. 大模型结合的AIGC ,支持NL2SQL 、NL2DDL 、NL2 报表、SQL 优化、Schema 优化等。

除了建设更多SQL 能力外,SQLess 将提供轻量级的lib ,用于更好地接入如CICD 、SQL Console 、IDE 插件适用于SQL 优化和分析的产品。SQLess 也将持续加强与OceanBase 开源社区的融合,并支持MySQL 、PostgreSQL 等数据库,为更多数据库生态的用户提供服务,建设通用SQL 能力的开源生态。

蚂蚁集团SQLess 开源,与内部版有何区别?,开源,oceanbase

参与开源项目共建

如果你对OceanBase 和SQLess 感兴趣,欢迎任何形式的参与,包括且不限于提问、代码贡献、技术讨论等。期待收到社区想法和反馈,以推动项目持续前进。

OceanBase 开源项目地址:

https://github.com/oceanbase/sql-lifecycle-management

SQLess 开源项目地址: 

https://github.com/oceanbase/sql-lifecycle-management

OceanBase 用户群:

钉钉群号:33254054

OB 小助手微信:OBCE666

SQLess 用户群:

钉钉群号:33920014194

官方人员微信:ztk1294604739

附SQLess 快速上手流程

第一步,执行环境,推荐版本python = v3.6.x ,依赖安装(后续将提供镜像)。

git clone https://github.com/oceanbase/sql-lifecycle-management.git

cd sql-lifecycle-management && make install

第二步,数据库初始化。

# 填写本地元数据库链接方式

cd sql-lifecycle-management && vim db.cfg

# 本地元数据库初始化

mysql -h host_ip -u user_name -p

source init/init.sql

第三步,访问页面(http://localhost:8989)

cd sql-lifecycle-management && sh ./start.sh文章来源地址https://www.toymoban.com/news/detail-694619.html

到了这里,关于蚂蚁集团SQLess 开源,与内部版有何区别?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 蚂蚁集团混沌工程 ChaosMeta V0.5 版本发布

    混沌工程 ChaosMeta 的全新版本 V0.5 现已正式发布!该版本包含了许多新特性和增强功能,为用户提供了支撑混沌工程各个阶段的平台能力,以及降低使用门槛的用户界面。 当前版本主要是发布了平台界面组件(chaosmeta-platform)、度量组件(chaosmeta-measure-operator)以及流量注入

    2024年02月10日
    浏览(28)
  • 信息安全-应用安全-蚂蚁集团软件供应链安全实践

    8月10日,由悬镜安全主办、以“开源的力量”为主题的DSS 2023数字供应链安全大会在北京·国家会议中心隆重召开。蚂蚁集团网络安全副总经理程岩出席并发表了《蚂蚁集团软件供应链安全实践》主题演讲。 图1 蚂蚁集团网络安全副总经理程岩发表主题演讲 以下为演讲实录:

    2024年02月10日
    浏览(34)
  • 蚂蚁集团最新业绩出炉:净利润同比下降63%,连续三个季度下滑

    11月17日,阿里巴巴集团(简称“阿里”,HK:09988、NYSE:BABA)公布2023财年第二季度(对应自然年2022年第三季度)业绩。财报显示,阿里巴巴2022年第三季度的收入为人民币2071.76亿元(约合291.24万美元),同比增长3.23%。  2022年第三季度,阿里的经调整EBITDA为人民币433.11亿元(

    2024年02月04日
    浏览(82)
  • 清华大学携手蚂蚁集团,攻坚可信AI、安全通用大模型等关键技术

    2023年4月7日,清华大学与蚂蚁集团签署合作协议,双方将在“下一代互联网应用安全技术”方向展开合作,聚焦智能风控、反欺诈等核心安全场景,携手攻坚可信AI、安全大模型等关键技术,并加速技术落地应用,以解决AI时代的互联网安全科技难题,筑牢数字安全屏障。  

    2024年02月11日
    浏览(40)
  • 助力软件供应链安全 蚂蚁集团多项产品入选信通院优秀案例

    近日,由中国信息通信研究院(以下简称“中国信通院”)主办,中国通信标准化协会云计算标准和开源推进委员会承办的3SCON软件供应链安全会议以线上直播形式召开。会上主办方发布了首期《软件供应链厂商和产品名录》,蚂蚁集团多项技术产品入选优秀实践案例。 《软

    2024年02月02日
    浏览(52)
  • 蚂蚁集团重组支付宝高层,井贤栋辞去支付宝法人和董事长职位

    “这是一种正常的公司治理做法,也是我们继续加强公司治理的努力的一部分,”支付宝发言人周二表示。 井贤栋离开之际,包括首席技术官、阿里巴巴国际业务集团总裁和首席人力资源官在内的七蚂蚁集团高管退休或不再是阿里巴巴合作伙伴的一部分。 根据阿里巴巴最新

    2024年02月03日
    浏览(26)
  • 蚂蚁集团发布AI安全检测平台“蚁鉴2.0”,可实现用生成式能力检测生成式模型

    7月 7日, 2023世界人工智能大会( WAIC ) “ 聚焦·大模型时代AIGC新浪潮 — 可信 AI ”论坛 举行, 蚂蚁集团 联合清华大学 发布 AI安全检测平台“蚁鉴2.0”。 蚁鉴 2.0 可实现用生成式 AI能力检测生成式AI模型,可 识别 数据安全、内容安全、科技伦理三大类的数百种风险, 覆盖

    2024年02月15日
    浏览(36)
  • 深入OceanBase内部机制:系统架构与组件精讲

    码到三十五 : 个人主页 心中有诗画,指尖舞代码,目光览世界,步履越千山,人间尽值得 ! OceanBase 数据库采用 Shared-Nothing 架构,各个节点之间完全对等,每个节点都有自己的 SQL 引擎、存储引擎、事务引擎,运行在普通 PC 服务器组成的集群之上,具备高可扩展性、高可用

    2024年04月12日
    浏览(25)
  • BFT最前线丨浙江大学和蚂蚁集团合作,成立智能视觉实验室;ChatGPT 对亚洲节点大规模封号;谷歌CEO称将推出Bard升级版

    文 | BFT机器人 浙江大学和蚂蚁集团合作,成立智能视觉实验室 据消息,浙江大学和蚂蚁集团达成合作成立「智能视觉联合实验室」,旨在推进智能视觉的技术创新和产业应用,重点攻坚包括机器视觉、三维重建、视觉内容生成等人工智能及计算机视觉在内的核心智能视觉技

    2024年02月09日
    浏览(44)
  • BMS电池管理系统纯硬件版,和软件版有什么区别?

    当今社会,电池已经成为人们生活和工作中不可或缺的重要组成部分。而电池的使用寿命、性能和安全性等问题一直是人们关注的焦点。为了保证电池的安全、高效和长寿命运行,BMS电池管理系统应运而生。 BMS电池管理系统通常由硬件和软件两部分组成,其中 硬件版BMS 和

    2023年04月23日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包