实时数仓Hologres新一代弹性计算组实例技术揭秘

这篇具有很好参考价值的文章主要介绍了实时数仓Hologres新一代弹性计算组实例技术揭秘。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

作者:王奇(花名慧青) 阿里云Hologres研发

随着实时数仓在业务生产系统的普及,资源弹性、资源隔离等保障业务稳定性方面的技术需求开始变得越来越迫切。Hologres在保障业务方面持续优化核心技术竞争力,过去一年中,Hologres创新提出并实现了新一代弹性计算组实例,旨在通过更强的隔离和弹性能力,进一步提高业务系统的稳定性。Hologres弹性计算组在2022年双11也成功落地阿里众多核心业务场景,比如阿里巴巴CCO客服体验部,助力CCO在大促场景中实现更加平稳的客服调度和问题处理。

通过本文,我们将会详细介绍Hologres弹性计算组实例的实现原理,助力更多业务进一步提升企业级资源隔离和弹性能力。

大数据面临资源、成本、隔离、弹性的综合挑战

在业务发展初期,数据量和并发访问量较小的情况下,利用传统的实时数仓可以轻松满足各类业务数据的分析。随着业务的极速发展,业务复杂度、数据量、并发访问量逐步增加,实时数仓技术开始被越来越多的业务使用,并逐渐在生产业务中落地。于此同时,业务也开始不可避免的遇见分析场景、服务场景、离线加工场景等场景的系统负载冲突等资源隔离问题,业务对系统的隔离和弹性能力都提出了更高更严苛的要求,尤其是像双11等大促场景上,系统需要有负载隔离、弹性等高可用能力来支撑更加迅猛的流量峰值。

传统分布式系统是通过副本和隔离来实现业务生产系统的进一步稳定,而要实现生产更高的稳定也需要面临一定的取舍和挑战:

  • 系统面向流量洪峰时的动态可扩展能力
  • 系统因意外或者故障宕机时的快速恢复能力
  • 多副本隔离带来的资源成本问题
  • 业务高低峰时资源的弹性能力

为了解决以上挑战,实现更加稳定、弹性、低成本的系统,Hologres不断演进其技术能力:

  • 在产品设计之初,就采用存储计算分离模式,可以非常高效的实现资源水平扩展能力,满足不同流量洪峰对资源的不同需求
  • 内置调度系统,实现了节点故障、Failover的快速检测以及自动调度恢复能力,即使有节点挂了,也能快速的拉起和切换,保障节点的可用性
  • 支持资源组隔离、多形态Replication包括Binlog、单实例Replication、主从实例等,有效解决数据读写分离、实现资源隔离、故障隔离

更多关于高可用的实现请见>>Hologres高可用技术揭秘

随着业务的发展和技术的演进,以及企业对降本增效的诉求加深,如何在降低成本的同时还能保持更加极致的隔离和资源弹性能力,又成为实时数仓技术的另一大挑战。为了应对这个挑战,在今年Hologres创新提出建设实现了新一代弹性计算组实例技术,与主从实例不同之处在于,业务可以通过将计算资源分解为不同的计算组模式,不同的计算组共享一份存储,计算资源可弹性分配,按需创建,可同时完美支撑读写分离、资源隔离、业务隔离等诸多场景。

下面我们将会介绍Hologres弹性计算组实例的具体技术实现原理和最佳使用实践。

Hologres技术再升级:新一代弹性计算组实例

Hologres弹性计算组实例设计的最终目的是为用户提供高更强的资源隔离,不仅具有灵活性(即买即用)文章来源地址https://www.toymoban.com/news/detail-726104.html

到了这里,关于实时数仓Hologres新一代弹性计算组实例技术揭秘的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Flink CDC 3.0 正式发布,详细解读新一代实时数据集成框架

    Flink CDC 是基于数据库日志 CDC(Change Data Capture)技术的实时数据集成框架,支持了全增量一体化、无锁读取、并行读取、表结构变更自动同步、分布式架构等高级特性。配合 Flink 优秀的管道能力和丰富的上下游生态,Flink CDC 可以高效实现海量数据的实时集成。Flink CDC 社区发

    2024年02月04日
    浏览(45)
  • 如何构建新一代实时湖仓?袋鼠云基于数据湖的探索升级之路

    在之前的实时湖仓系列文章中,我们已经介绍了实时湖仓对于当前企业数字化转型的重要性,实时湖仓的功能架构设计,以及实时计算和数据湖结合的应用场景。 在本篇文章中,将介绍袋鼠云数栈在构建实时湖仓系统上的探索与落地实践,及未来规划。 数栈作为一个数据开

    2024年02月05日
    浏览(62)
  • 云计算:新一代的技术革命

    云计算,作为21世纪的一项重要技术革命,已在全球范围内引发了深远的影响。它改变了我们存储和处理数据的方式,使得企业无需再建设和维护昂贵的本地服务器和数据中心。本文将深入探讨云计算的基本概念,类型,主要优点,以及它在未来可能的发展趋势。 云计算的基

    2024年02月12日
    浏览(42)
  • 【机密计算技术】ARM 新一代机密计算架构 CCA

            过去十年, TEE 主要用在移动端,可以称为 机密计算 1.0 ,保障支付宝、微信、FIDO 支付类信任根上的安全,保障人脸、指纹等个人隐私的安全,保障高清媒体的数字版权 DRM。                2008 年,ARM 推出了 trustzone 技术,通过硬件设计将处理器运行状态隔离为

    2024年02月15日
    浏览(41)
  • 【软考高项】新一代信息技术及应用之云计算

    信息技术在智能化、系统化、微型化、云端化的基础上不断融合创新,促进了物联网、云计算、大数据、区块链、人工智能、虚拟现实等新一代信息技术的诞生。新一代信息技术与信息资源充分开发利用形成的新模式、新业态等,是信息化发展的主要趋势,也是信息系统集成

    2024年02月05日
    浏览(39)
  • 百度沈抖:传统云计算不再是主角,智能计算呼唤新一代“操作系统”

    4月16日,Create 2024 百度AI开发者大会在深圳召开。期间,百度集团执行副总裁、百度智能云事业群总裁沈抖正式发布新一代智能计算操作系统——万源,通过对AI原生时代的智能计算平台进行抽象与封装设计,为用户屏蔽掉云原生系统与异构算力的复杂性,提升AI原生应用开发

    2024年04月17日
    浏览(56)
  • 山东专升本计算机第十一章-新一代信息技术

    新一代信息技术 物联网 概念 物联网就是物物相连的互联网,其核心和基础仍然是互联网 计算机,互联网之后信息产业发展的第三次浪潮 推入人类进入智能时代,又称物联时代 三大特征 全面感知 可靠传递 智能处理 • 物联网的最核心 技术架构 感知层 网络层 服务管理层(

    2024年02月01日
    浏览(38)
  • 新一代浪潮K1 Power服务器上市 引领中国关键计算产业发展

    新一代浪潮高端服务器旗舰产品—— 浪潮K1 Power K8880G3日前正式发布 !新一代产品采用最新Power10处理器,全面优化系统架构设计,整机性能相较上一代产品提升 70%。 浪潮K1 Power K8880G3服务器 一直以来,浪潮K1 Power服务器都是中国关键计算的领导者和产业发展的风向标,承载各

    2024年02月08日
    浏览(89)
  • 信息系统项目管理师0027:云计算(2信息技术发展—2.2新一代信息技术及应用—2.2.2云计算)

    点击查看专栏目录   云计算(Cloud Computing)是分布式计算的一种,指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序,然后通过由多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。在云计算早期,就是简单的分布式计算,进行任务

    2024年04月09日
    浏览(48)
  • 基于Hologres+Flink的曹操出行实时数仓建设作者:林震|曹操出行实时计算负责人

    作者:林震|曹操出行实时计算负责人 曹操出行 创立于2015年5月21日,是吉利控股集团布局“新能源汽车共享生态”的战略性投资业务,以“科技重塑绿色共享出行”为使命,将全球领先的互联网、车联网、自动驾驶技术以及新能源科技,创新应用于共享出行领域,以“用心

    2024年01月24日
    浏览(45)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包