企业数据架构师不应构建大型集中式数据平台，而应创建分布式数据网格。 ThoughtWorks 的首席技术顾问 Zhamak Dehghani 在旧金山 QCon 的演讲和相关文章中表示，这种方法的改变需要范式转变。随着数据变得越来越普遍，传统的数据仓库和数据湖架构变得不堪重负，无法有效扩展。Dehghani 认为，分布式数据网格方法可以通过采用面向领域的数据所有权来克服这些固有的低效率。
“我建议下一个企业数据平台架构是分布式域驱动架构、自助平台设计和数据产品思维的融合。”
她的演讲包括一些现实世界的例子，但主要集中在新的管理原则上，伴随着新的语言来支持这种心态。例如，服务过度摄取，发现和使用过度提取和加载。
Dehghani 看到了传统数据平台架构中的三种故障模式。首先，它们是中心化的、单一的；将所有类型的数据放在一起可能适用于小型组织，但对于拥有大量数据源和不同数据消费者的企业最终会失败。
其次，是 Dehghani 描述为“耦合管道分解”的问题。几代架构师已经将数据平台架构分解为“数据处理步骤的管道”。这些管道步骤与变化轴正交，新功能需要对所有步骤进行更新。
孤立和超专业的所有权是最终的失败模式。集中式架构自然会创建提供数据的数据源团队和检索处理数据的消费者团队的类别。中间是数据和机器学习专家。虽然两个外部小组是面向领域的，但中央团队必须与领域无关。
Dehghani 将这些挑战与 N 层单体的挑战进行了比较，其中新的客户需求需要修改所有层。微服务更好地与变化的元素保持一致，但需要不同的设计方法。成功实施数据网格架构需要类似的、戏剧性的思维转变。
“为了分散整体数据平台，我们需要扭转我们对数据、数据的位置和所有权的看法。域不需要将数据从域流到集中拥有的数据湖或平台，而是需要托管和服务其域数据集以一种易于消费的方式。”
所设想的架构侧重于将域数据产品作为一流的组件，每个组件都由了解该域的团队拥有相应的所有权。单一的、僵化的数据管道不再是主要的设计关注点，数据也没有明确地划分为源和消费模式。分散的团队能够使用他们需要的数据，并且可以将他们的输出提供回网格中以供其他团队使用。
要使这样的架构成功，数据产品必须是可发现的、可寻址的、可信赖的、自描述的、可互操作的、安全的，并受全局访问控制的约束。这些特征是各个数据产品所有者的责任，并得到联合治理和提供数据基础设施的平台的帮助。
-
Image Credit: Zhamak Dehghani
数据仓库和数据湖仍然可以存在于这种架构中，但它们只是网格中的另一个节点，而不是一个集中的单体。 如果团队仍然需要由数据仓库和湖泊来完成的功能，那么他们应该可以自由地接受它。同样，微服务和多语言解决方案的采用也存在相关性。
Dehghani 的 QCon 演示文稿“数据平台架构中的数据网格范式转变”将在未来几周内发布。她的文章《如何从单一数据湖迁移到分布式数据网格》现已发布。她还将成为 InfoQ 播客的嘉宾。文章来源：https://www.toymoban.com/news/detail-509138.html
| 本文 :https://architect.pub/distributed-data-mesh-solution-centralized-data-monoliths | ||
| 讨论：知识星球【首席架构师圈】或者加微信小号【ca_cto】或者加QQ群【792862318】 | ||
| 公众号 |
【jiagoushipro】 【超级架构师】 精彩图文详解架构方法论，架构实践，技术原理，技术趋势。 |
|
| 微信小号 |
【ca_cea】 50000人社区，讨论：企业架构，云计算，大数据，数据科学，物联网，人工智能，安全，全栈开发，DevOps，数字化. |
|
| QQ群 |
【285069459】深度交流企业架构，业务架构，应用架构，数据架构，技术架构，集成架构，安全架构。以及大数据，云计算，物联网，人工智能等各种新兴技术。 |
|
| 视频号 | 【超级架构师】 1分钟快速了解架构相关的基本概念，模型，方法，经验。 每天1分钟，架构心中熟。 |
|
| 知识星球 | 【首席架构师圈】向大咖提问，近距离接触，或者获得私密资料分享。 | |
| 喜马拉雅 | 【超级架构师】路上或者车上了解最新黑科技资讯，架构心得。 | 【智能时刻，架构君和你聊黑科技】 |
| 知识星球 | 认识更多朋友，职场和技术闲聊。 | 知识星球【职场和技术】 |
| 领英 | Harry | https://www.linkedin.com/in/architect-harry/ |
| 领英群组 | 领英架构群组 | https://www.linkedin.com/groups/14209750/ |
| 微博 | 【超级架构师】 | 智能时刻 |
| 哔哩哔哩 | 【超级架构师】 | |
| 抖音 | 【cea_cio】超级架构师 | |
| 快手 | 【cea_cio_cto】超级架构师 | |
| 小红书 | 【cea_csa_cto】超级架构师 | |
| 网站 | CIO(首席信息官) | https://cio.ceo |
| 网站 | CIO,CTO和CDO | https://cioctocdo.com |
| 网站 | 架构师实战分享 | https://architect.pub |
| 网站 | 程序员云开发分享 | https://pgmr.cloud |
| 网站 | 首席架构师社区 | https://jiagoushi.pro |
| 网站 | 应用开发和开发平台 | https://apaas.dev |
| 网站 | 开发信息网 | https://xinxi.dev |
| 网站 | 超级架构师 | https://jiagou.dev |
| 网站 | 企业技术培训 | https://peixun.dev |
| 网站 | 程序员宝典 | https://pgmr.pub |
| 网站 | 开发者闲谈 | https://blog.developer.chat |
| 网站 | CPO宝典 | https://cpo.work |
| 网站 | 首席安全官 | https://cso.pub |
| 网站 | CIO酷 | https://cio.cool |
| 网站 | CDO信息 | https://cdo.fyi |
| 网站 | CXO信息 | https://cxo.pub |
谢谢大家关注，转发，点赞和点在看。文章来源地址https://www.toymoban.com/news/detail-509138.html
到了这里，关于【数据网格架构】分布式数据网格作为集中式数据单体的解决方案的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
