大数据计算能力 CPU、GPU 和 DPU 有何不同

这篇具有很好参考价值的文章主要介绍了大数据计算能力 CPU、GPU 和 DPU 有何不同。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

在这个大数据世界中,并行处理或并行计算是对传入系统的大数据进行更快处理和计算的解决方案。尽管在大多数情况下,多核 CPU 用于并行处理,但当涉及到大规模并行处理时,基于 CPU 的算法或基于多核 CPU 的算法速度不够快,无法在合理的时间内给出解决方案。这产生了最初用于游戏目的、图形和图像处理等的 GPU。此外,DPU(数据处理单元)的概念通过使用多个 CPU 和多个 GPU 在非常短的时间内进行大量大数据计算。
大数据计算能力 CPU、GPU 和 DPU 有何不同

1. CPU(Central Processing Unit 中央处理器)

让我们从基础开始了解 CPU,让我们考虑一下个人计算机中的 CPU,当您升级 PC 进行游戏或视频编辑时,该 CPU 与内存 (RAM)、硬盘驱动器和 NIC(网络接口控制器)相连目的是您将获得额外的 GPU 连接到 CPU 和更快的内存访问 SSD 现在可以成为一种选择。所以下面是基本的CPU框图。
大数据计算能力 CPU、GPU 和 DPU 有何不同
当我们专门谈论普通 PC 中的 CPU 时,它具有 4 到 8 个主频为 2 到 3 GHz 的灵活内核,数据中心的 CPU 可以拥有更多的内核和时钟速度。多核允许更轻松地同时进行并行数据处理或并行线程,高时钟速度意味着更快的处理速度。ALU (Arithmetic and logical unit 算术和逻辑单元)在CPU 内核中很重要,它负责算术和逻辑运算。CPU包含较少但功能强大的核心,而GPU可以拥有很多核心但在时钟速度方面的功率较低。
大数据计算能力 CPU、GPU 和 DPU 有何不同

大数据计算能力 CPU、GPU 和 DPU 有何不同
如果您与云提供商合作,您已经听说过 vCPU 这个词-centre 对于较小的实例而言价格非常高,因此对 CPU 及其内核的要求可能较低,因此我们可以使用内核较少的数据中心的物理 CPU 作为较小实例的虚拟 CPU。

给定一个物理 CPU,Intel Xeon Platinum R8282 处理器,CPU 规格核心数为 56,添加线程数 112 根据上述计算 vCPU 的公式使用 vCPU 的数量为:
大数据计算能力 CPU、GPU 和 DPU 有何不同

= (112 *56) * 1 = 6272 个 vCPU

2. GPU( Graphics Processing Unit 图形处理单元):

从上面的基本 CPU 中,让我们通过比较两者来了解更多关于 CPU 和 GPU 的信息,以及为什么从游戏和图像/视频处理中,GPU 现在也用于计算深度学习神经网络和人工智能。当涉及算术运算和逻辑运算等常规计算时,CPU 速度更快,但在大型矩阵乘法和并行算法方面,GPU 排在第一位,那么为什么 GPU 和矩阵乘法呢?这是因为大多数机器学习深度学习算法都使用矩阵乘法,例如,在神经网络中,全连接层 l 中神经元 j的输出 y ( l ) ( j ) y^{(l)(j)} y(l)(j) 由下式给出

大数据计算能力 CPU、GPU 和 DPU 有何不同

等式中的这些先前权重可以存储在与内核相关的缓存中,并且乘法可以使用 GPU 拥有的数千个内核并行发生,这些内核的时钟速度较低或内核较弱,但在并行计算中很有效,而且每个内核都有自己的 ALU。

CUDA(Compute Unified Device Architecture 计算统一设备架构)描述了 NVIDIA 的专有语言,它基于 C 并包含一些特殊的扩展,以实现高效的编程。扩展主要涵盖在 GPU 上启用多线程和访问 GPU 上不同类型内存的命令。
大数据计算能力 CPU、GPU 和 DPU 有何不同
所有云提供商都提供:

  • 计算优化实例——高性能处理器、大量内存 (RAM)。
  • 加速计算(基于硬件的计算加速器,例如图形处理单元 (GPU)、现场可编程门阵列 (FPGA - Field Programmable Gate Arrays)

2.1 FPGA - Field Programmable Gate Arrays 现场可编程门阵列

FPGA代表Field Programmable Gate Array,本质上它是一个硬件,可以根据用户需要多次编程,它可以将任意方程转换或实现为布尔方程的形式,因此,将其实现为组合和顺序逻辑。简单地说,一个FPGA可以用来实现任何逻辑功能。与图形处理单元 (GPU) 或 ASIC 不同,FPGA 芯片内部的电路不是硬蚀刻的——它可以根据需要重新编程。这种能力使 FPGA 成为 ASIC 的绝佳替代品,后者需要较长的开发时间和大量的设计和制造投资。

基于 FPGA 的实例提供对具有数百万个并行系统逻辑单元的大型 FPGA 的访问。您可以使用基于 FPGA 的加速计算实例,通过利用自定义硬件加速来加速基因组学、财务分析、实时视频处理、大数据分析和安全工作负载等工作负载。设计人员可以从头开始构建神经网络,并构建最适合模型的 FPGA。当应用程序需要低延迟和低批量大小时,FPGA 可以提供优于 GPU 的性能优势。
大数据计算能力 CPU、GPU 和 DPU 有何不同
与 GPU 相比,FPGA 可以在低延迟至关重要的深度学习应用中提供卓越的性能。可以对 FPGA 进行微调以平衡电源效率和性能要求。

3. DPU(Data Processing Unit 数据处理单元)

在计算机体系结构中,CPU 具有多种职责,例如运行您的应用程序、执行计算,同时它扮演着数据流量控制器的角色,在 GPU、存储、FPGA 等之间移动数据,因此 CPU 更加以计算机为中心以数据为中心的架构的要求。新的架构应该让资源直接访问网络,让他们最擅长的任务。

数据处理单元或 DPU 应该扮演数据流量控制器的角色,从这个 IO 密集型任务中卸载 CPU,但它的效率比 CPU 高几个数量级,特别是 DPU 应该从网络发送和接收数据包加密和压缩服务器周围的大量数据并运行防火墙以保护服务器免受滥用。DPU 应该使分布在服务器上的异构计算和存储资源能够集中起来,以最大限度地提高利用率,从而降低计算机和存储资源的总拥有成本。DPU 等数据引擎将使数据中心能够达到计算大量数据所需的效率和速度,许多云 ETL 产品以分布式方式提供 DPU 来执行数据处理,
大数据计算能力 CPU、GPU 和 DPU 有何不同
AWS 提供名为 AWS 胶水的 ETL 无服务器服务,AWS 胶水使用 DPU,这些 DPU 成为工作节点并执行内存计算。AWS Glue 中有不同的工作线程类型。

  • The standard worker 标准工作者:16 GB 内存、4 个 vCPU 的计算容量和 50 GB 附加的 EBS 存储和 2 个 Spark 执行器。
  • G.1X worker:16 GB 内存、4 个 vCPU 和 64 GB 附加 EBS 存储。(1 个 Spark 执行器 = 1 个 DPU)
  • G.2X worker :内存、磁盘空间和 vCPU 是 G.1X worker 类型的两倍。(1 个 Spark 执行器 =2 DPU)。

4. 关键概念:

  • 算法可以是顺序的,也可以是并行的,有些算法在顺序上执行得很好,有些在并行计算中执行得特别快。
  • CPU 内核越多,可用于并行计算/处理的线程就越多。
  • 单个 CPU 可以有多个内核,因此单独的 CPU 可以处理并行处理,直到需要在同一时间点处理超过数千个线程的大规模并行处理。
  • GPU 有数以千计的核心,并有像 CUDA 这样的 API 用于对它们进行编程以进行计算。
  • 在分布式计算中,可以有多个实例具有 CPU/DPU 或 CPU-GPU 或 DPU-vCPU 或 DPU-vCPU-GPU。数据被分区,每个分区被分配给每个实例/DPU。每个实例都可以再次使用内核并行进行大规模计算。
  • 如果内存涉及的是内存(RAM),则可以更快地完成分布式计算,Apache Spark 方式。许多云提供商提供了以内存中并行分布的方式计算海量数据的实例。
  • 分布式计算可以使用大量内存(HDD/SSD)和更少的 RAM 来完成,创建大量分区数据的副本以实现容错并应用 MapReduce。

参考

https://statusneo.com/big-data-computing-power-cpu-vs-gpu-vs-dpu/

https://www.techtarget.com/searchdatacenter/tip/How-do-CPU-GPU-and-DPU-differ-from-one-another文章来源地址https://www.toymoban.com/news/detail-483678.html

到了这里,关于大数据计算能力 CPU、GPU 和 DPU 有何不同的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 深入了解浮点运算——CPU 和 GPU 算力是如何计算的

    随着国家大力发展数字经济,算力的提升和普惠变得越来越重要。在数字化时代,算力已成为推动科技发展和创新的关键要素。它不仅仅是衡量计算机处理速度的标准,还涉及计算机系统或设备执行计算任务的能力、数据处理能力以及解决复杂计算问题的能力。那么算力到底

    2024年01月17日
    浏览(44)
  • 【MySQL】数据库中这么多数据类型你真的了解吗?一文看懂不同数据类型有何区别

    创建表t1,将name列数据类型设置为要tinyint 插入属性值:由于这里是tinyint类型,取值范围是【-128–127】,当插入这个范围内的数据显示成功,范围之外失败 使用tinyint unsigned类型创建表t2 无符号类型取值范围【0,255】,这点与C/C++一样 2.1.1 小结 MySQL对于数据类型不合法行为采

    2024年02月13日
    浏览(44)
  • 一文读懂「四大主流计算芯片 CPU、GPU、ASIC、FPGA」特点和场景

    纵观人类历史,从结绳计数、木制计数到巴比伦的粘土板上的刻痕,再到中国古代的算盘,社会生产力的提高与当时所采用的计算工具密切相关。计算工具能力越强,就能大幅缩短人类解决复杂问题的时间,社会生产力水平自然就会越高。 CPU,全称Central Processing Unit,即中央

    2024年02月19日
    浏览(38)
  • AIGC靠GPU还是CPU?高性能计算两大技术方向演变

    2023 年的 AI 产业可以用风起云涌来形容。ChatGPT 的横空出世让生成式 AI 技术一夜之间红遍全球,很多从未了解过人工智能的普通人也开始对大模型产生了浓厚的兴趣。媒体、调研机构纷纷推出长篇专题,论证 ChatGPT、StableDiffusion、Midjourney 等文本和图像大模型会对哪些行业产生

    2024年02月12日
    浏览(41)
  • React和Vue的有何不同?

    React和Vue是目前最受欢迎的前端框架之一,它们都拥有庞大而活跃的社区生态系统。 React生态系统特点: 社区活跃度高:React拥有庞大的开发者社区,社区成员数量众多,教程、博客、插件和工具等资源丰富。 生态系统丰富:React周边有很多优秀的第三方库和插件,例如Reac

    2024年01月25日
    浏览(49)
  • 不同类型的工业网关有何区别?

    工业网关是一种用于连接工业设备和网络的关键设备,它能够将不同协议、不同传输速率的工业设备连接到网络上,实现数据的传输和共享。不同类型的工业网关之间存在一些区别,以下是一些常见的工业网关类型及其区别: 协议转换型工业网关:这种网关主要用于实现不同

    2024年03月09日
    浏览(46)
  • 光纤和光缆有何不同之处?

    很多 人 会有这样的疑问,光纤和光缆有何不同之处?主要是因为光纤和光缆这两个名词容易引起混淆。在严格的定义下,光纤和光缆是两种不同的东西,然而在现实生活中,许多人仍然会混淆这两者。为了更好地理解光纤和光缆之间的区别,我们一起来看一下。 1、光纤是一

    2024年02月01日
    浏览(40)
  • 谁能在第四代算力革命中脱颖而出?CPU?GPU?算法?数据?

    导语 1.“数据、算法、算力”是数字经济时代的三大核心要素,其中算力是数字经济的物理承载。 2.目前,算力已经成为全球战略竞争的新焦点和国家经济发展的重要引擎。世界各国的算力水平与经济发展水平呈正相关。 3.下面通过四个模块,从微观到宏观,详细分析与性能

    2023年04月13日
    浏览(40)
  • 微信小程序篇之与vue有何不同

    大家好!又怀着兴奋的心情去学习了微信小程序,框架这个东西嘛,随着时代的新潮一波又一波的到来,一波又一波的被冲走。为什么要拿vue与小程序开发做对比呢? 这是因为我相信大家不会在没有学习到vue之前就把小程序给学习了,哈哈哈。这篇文章最好给已经接触过别的

    2024年02月09日
    浏览(42)
  • 文言一心与文心一言:究竟有何不同?

    大家好,小发猫降ai今天来聊聊文言一心与文心一言:究竟有何不同?,希望能给大家提供一点参考。降ai辅写 以下是针对论文AI辅写率高的情况,提供一些修改建议和技巧,可以借助此类工具: 还有: 文言一心与文心一言:究竟有何不同? 当我们谈论自然语言处理领域的两

    2024年03月16日
    浏览(56)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包