A30、V100性能测试对比报告

这篇具有很好参考价值的文章主要介绍了A30、V100性能测试对比报告。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一,基础配置对比

卡型 架构 卡数 显存 CUDA GPU Driver (TDP)能源消耗 CPU核数(超线程) 内存大小 CPU型号 发布日期 备注
A30 Ampere 8 24G 11.0 450.51.06 165 Watt 48 252 AMD EPYC 7402 24-Core Processor 2021 PCIe
V100 Volta 8 32G 11.4 470.57.02 250 Watt 80 503 Intel® Xeon® Gold 6230 CPU @ 2.10GHz 2017 NV Link

二,模型训练对比

1,单卡模型训练对比
1.1, batch_size 为 128 对比
  • 对比环境
    v100显卡算力,人工智能,深度学习,自然语言处理
  • 性能对比
    v100显卡算力,人工智能,深度学习,自然语言处理
    v100显卡算力,人工智能,深度学习,自然语言处理
    A30
    v100显卡算力,人工智能,深度学习,自然语言处理
    V100
1.2,batch_size 为 256 对比
  • 对比环境
    v100显卡算力,人工智能,深度学习,自然语言处理
  • 性能对比
    v100显卡算力,人工智能,深度学习,自然语言处理
    v100显卡算力,人工智能,深度学习,自然语言处理

2,多卡模型训练对比

2.1, batch_size 为 128 对比
  • 对比环境
    v100显卡算力,人工智能,深度学习,自然语言处理
  • 性能对比
    v100显卡算力,人工智能,深度学习,自然语言处理
    v100显卡算力,人工智能,深度学习,自然语言处理
2.2, batch_size 为 256 对比
  • 对比环境
    v100显卡算力,人工智能,深度学习,自然语言处理
  • 性能对比
    v100显卡算力,人工智能,深度学习,自然语言处理

三,推理AB-压测对比

1,对比环境

共压80000数据,同时请求500数据。

2,压测性能对比

v100显卡算力,人工智能,深度学习,自然语言处理

四,算力、带宽对比

A30参数
V100参数
v100显卡算力,人工智能,深度学习,自然语言处理

A30:
v100显卡算力,人工智能,深度学习,自然语言处理

V100:
v100显卡算力,人工智能,深度学习,自然语言处理

注:

深入PCI与PCIe文章来源地址https://www.toymoban.com/news/detail-598883.html

到了这里,关于A30、V100性能测试对比报告的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家