大宗商品贸易集团数据治理实践,夯实数字基座 | 数字化标杆

这篇具有很好参考价值的文章主要介绍了大宗商品贸易集团数据治理实践,夯实数字基座 | 数字化标杆。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

某大型央企是首批全国供应链创新与应用示范企业,在“十四五”规划期内以聚焦供应链管理核心主业作为主要战略发展方向。供应链运营管理以大宗商品贸易为主,其交易往往具有交易量巨大、交易环节复杂、风险交易难识别、风险客商难管控等痛点。

随着集团数字化转型不断深化,数据应用方面的需求不断扩展。但集团缺乏统一的大数据资产管理平台,导致在数据应用方面,出现数据价值不凸显、数据标准不统一、数据质量不可控、数据共享不畅通等问题。

在此背景下,该集团引入袋鼠云数据治理团队,立足于打造全集团统一,能满足覆盖运管、风控、业务全过程数字化经营管理及分析决策的统一数据资产平台。对集团现有存量数据进行数据治理及挖掘,搭建数据管理体系,对增量数据进行有效管理和应用。通过梳理目前集团所有存量数据,提炼运营指标及管理指标,科学化管理公司数据资产和挖掘数据价值。

01 围绕“数据治理、数据服务、数据应用”的数据治理方案

袋鼠云根据集团提出的数据治理需求,结合内部现有数据开发平台,以业务应用场景为导向,形成集团统一的数据治理方案。项目以数据治理、数据服务、数据应用三大方向展开实施,其中数据应用以聚焦供应链运营管理业务为核心,数据服务以满足集团下属各子公司数据需求为主,数据治理以统一集团数据归集方式、数据质量标准、元数据维护标准、数据建模标准为目标进行建设。

其中数据治理设计的步骤为:确定当前项目的目标和范围,设计本轮数据治理的模式、架构和方法。以集团当前提出的数据需求场景出发,针对场景数据进行数据治理,主要包括以下几个步骤

1、架构设计

技术架构上,从场景需求出发,结合当前企业组织架构及数据权限出发,将数据中台设计为多项目空间加经典ODS、DWD、DWS、ADS四层结构,其中集团为主项目空间,其余业务供应链平台为子项目空间。另外,根据前期调研结果,结合当前集团业务范围,将业务根据业务主体进行了数据域的设计与划分,其中重点建设数据域为:

1)客商域:企业所服务的所有客户及供应商;
2)商品域:企业自营或代理商品,SKU;
3)交易域:客户与企业发生的所有交易行为,包括交易合同,订单,采购等;
4)风险域:企业发生诉讼,处罚等风险数据;
5)仓储物流域:所有仓库出入库,在途等信息;
6)公共域:系统码值,参数信息,组织架构,人员以及标准化映射信息。

通过分层与分域的设计,将集团原本传统数据架构转变为新数据架构,统一源端数据,建设公共事实层,建设服务层最后满足各个不同需求,有效解决传统数据架构存在的数据孤立,事实重复建设,资产盘点困难等问题,更适应当前集团发展阶段诉求。

大宗商品贸易集团数据治理实践,夯实数字基座 | 数字化标杆

2、数据统一归集

当前集团源端数据大体分为三类:第一种是传统业务数据,包含SAP系统、MDM系统、CRM系统、云链、高达、南北、OA等系统;第二种是第三方数据,包含船讯网、启信宝、行情数据、价格数据等;第三种是其他手工填报数据。

其中传统业务数据存在数据源多,数据量级分布不均,部分系统只能取得界面全量数据或为高度汇总报表数据等问题,使用数栈底层数据同步工具FlinkX将不同数据接入数据中台中。

第三方数据使用PySpark脚本任务,通过调取特定的API服务接口,完成数据的采集及简单清洗,接入数据中台。

手工填报数据通过完成填报报表的初步设计后,回流手工填报平台(当前使用饭软),进行定期同步、定期填报、定期回流采集的形式来完成数据的收集。

大宗商品贸易集团数据治理实践,夯实数字基座 | 数字化标杆

3、数据集中处理及标准设计

从架构设计出发,对已接入的源端数据,进行明细事实层的建模设计,进行指标体系的统计和收集。

明细事实层的建模设计秉持维度建模理念,根据不同的主题域,将ODS层数据进行特定范围的清洗,处理,加工后形成可复用性强的描述某一颗粒度下,某一业务行为的各项信息,纵向可以进行上钻下钻,横向可以对比。

针对指标层的加工处理,在引入数据中台之前,数据计算逻辑、指标口径都存放在SAP系统的代码中,无法进行有效复用。为了解决这一问题,根据指标体系设计方法论,统一定义指标体系的各信息(包含指标ID、指标名称、指标主题、业务口径、维度、修饰词、计算方式、计算频率、时间周期、业务对接人及开发负责人),在接下来企业的数据应用过程中,完成数据指标口径的收口和统一。

4、数据应用场景

数据应用场景以集团供应链运营管理为核心,分别对运营管理、物流管理、信用管理数据进行统一归集,按照业务指标逻辑进行数据处理开发,满足业务人员数据报表填报和数据统计分析应用场景。

运营管理场景:通过重新梳理SAP客户逾期、客户赊销、现货敞口库存等业务报表数据逻辑为基础,结合大数据平台从SAP底表取数能力,实现风险周报填报、签约情况分析、重大事项填报场景建设,有效减轻业务人员每周报表加工填报的工作压力,同时提高业务数据线上留存能力。

物流管理场景:以物流合同、物流供应商、供应商库点、库点库存、库点盘点记录数据为基础,进行统一汇聚处理,按照业务指标口径进行数据开发,实现物流合同看板、物流供应商看板、库点盘点密度看板、库存看板四大看板,为业务人员发现潜在风险和日常业务数据便捷查询提供有利条件。

信用管理场景:以客商授信额度、客商逾期、行业产品加工利润数据为核心,结合业务逻辑指标进行数据开发,实现授信额度跟踪、逾期数据分析、行业加工利润填报场景建设,为业务人员控制客商授信额度、发现客商潜在风险、明确当前各行业产品盈利情况提供有效支撑。

02 夯实数字基座,有效支撑数据应用

截至目前,集团数据中台共构建700余张表,数据执行任务总量500余个,其中ODS数据源始层同步任务200多个、DWD数据明细层清洗加工任务40多个、DWS数据汇总层汇总任务60多个、DIM数据维度层维度同步任务20多个、ADS数据应用层业务场景数据推送任务100多个。

满足集团供应链运管部物流仓储管理、客商信用管理、价格管理、运营管理等部门数据分析需求,实施搭建签约销售/采购看板、物流仓储看板、授信额度跟踪看板、逾期数据分析看板、运管风险逾期周报填报等业务场景。

《数栈产品白皮书》下载地址:https://www.dtstack.com/resources/1004?src=szsm

《数据治理行业实践白皮书》下载地址:https://www.dtstack.com/resources/1001?src=szsm

想了解或咨询更多有关大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=szbky文章来源地址https://www.toymoban.com/news/detail-746871.html

到了这里,关于大宗商品贸易集团数据治理实践,夯实数字基座 | 数字化标杆的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 研产供销数据一体化,解码汽车集团企业的数据治理之道

    OTA(Over-The-Air,空中下载技术),是汽车使用的一种远程无线升级技术。车主只要保持联网的状态,汽车就可以像手机一样进行系统升级。OTA升级最大的好处是,不管对车辆进行常规的升级还是大面积出现软件问题需要修复,都可以通过OTA来解决。 数据显示,2022年中国乘用车

    2024年02月12日
    浏览(48)
  • django+Web+区块链的大宗商品交易B2B服务平台网站(源码+mysql+论文)

    本系统(程序 + 源码)带文档 lw 万字以上   文末可获取本课题的源码和程序 选题背景: 随着科技的不断发展,区块链技术已经成为近年来的热门话题。区块链是一种去中心化、分布式的数据库技术,通过加密算法确保数据的安全性和不可篡改性。大宗商品交易B2B服务平台是

    2024年04月11日
    浏览(51)
  • “利用义乌购API揭秘跨境贸易商机:一键获取海量优质商品列表!“

    义乌购API可以根据取商品列表。通过调用义乌购API的item_search接口,传入参数,可以获取到符合该的商品列表。 以下是使用义乌购API根据取商品列表的步骤: 注册义乌购开发者账号并获取授权码和密钥。 在代码中导入义乌购API的SDK,设置请求的U

    2024年02月05日
    浏览(44)
  • 数据分析提效5倍,国有集团企业数字化历程 | 数字化标杆

    从北京到新疆、从中国到南非,从奥运会场馆的水泥混凝土到钱塘江畔拔地而起的高楼房产,无不存在着这个集团的身影。 历经60多年沧桑巨变,某市属大型国有控股建筑产业集团已发展成为一家中国500强企业、A+H整体上市公司,然而,该集团的实力与决心,远不限于此。

    2024年02月09日
    浏览(58)
  • 数据治理——滴滴大数据成本治理实践

        原文大佬的这篇本文主要介绍滴滴大数据在成本治理方面的实践。有些内容是有借鉴意义的,这些摘抄下来用作沉淀学习。如有侵权,请告知~   从上图所示:最底层是以数据引擎为基础的 数据存储 ,分为离线计算、实时计算、OLAP、NoSQL、日志检索和数据通道六个部分。

    2024年03月13日
    浏览(54)
  • 数据治理实践 | 网易某业务线的计算资源治理

    本文从计算资源治理实践出发,带大家清楚认识计算资源治理到底该如何进行,并如何应用到其他项目中。 由于数据治理层面可以分多个层面且内容繁多(包括模型合规、数据质量、数据安全、计算/存储资源、数据价值等治理内容),因此需要单独拆分为6个模块单独去阐述

    2023年04月19日
    浏览(45)
  • 银行数据治理:数据质量管理实践

    现代商业银行日常经营活动中积累了大量数据,这些数据除了支持银行前台业务流程运转之外,越来越多地被用于决策支持领域,风险控制、产品定价、绩效考核等管理决策过程也都需要大量高质量数据支持。银行日常经营决策过程的背后,实质是数据的生产、传递和利用过

    2024年02月09日
    浏览(48)
  • 数字孪生 | 04 三维模型的数据治理

    今天是数字孪生系列话题第4篇,聊聊三维模型数据治理那些事。 近几年,数字孪生、智慧城市、智慧园区、智慧工厂、元宇宙等热词不断地出现在这我们的视野中,而这些又都离不开三维模型,我们在执行项目的时候,特别是报价的阶段我们就经常被客户问到你这个模型的

    2024年02月15日
    浏览(44)
  • 数据仓库内容分享(四):滴滴大数据成本治理实践

    目录 01 滴滴大数据成本治理总体框架 1. 滴滴数据体系 2. 滴滴大数据资产管理平台 3. 滴滴大数据成本治理总体框架 02 Hadoop 成本治理实践 03 ES 成本治理实践 04 一些心得 在介绍滴滴成本治理之前,首先来简单介绍一下滴滴的数据体系。 最底层是以数据引擎为基础的数据存

    2024年02月20日
    浏览(44)
  • 信息安全-数据安全-字节大数据平台安全与权限治理实践

    导读: 本次分享题目为字节跳动大数据平台安全与权限治理实践,文章会围绕下面四点展开: 字节大数据安全体系现状和难点 细粒度权限管控和治理 资产保护能力 数据删除能力 分享嘉宾|许从余 火山引擎 数据平台产品经理 编辑整理|杨佳慧 出品社区|DataFun 第一部分首

    2024年02月09日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包