AI模型训练主要使用GPU的算力，GPU,显卡这些知识大家都懂的，还是简单说一下GPU吧：GPU是显卡的核心部分，GPU承担着与 CPU 不同的定位和功能，芯片设计思路也完全不同，GPU Core 小而且多，它不承担系统管理、调度的功能，完全专注于使用(大量的)小核心并行化地执行运算。
GPU的几个主要用途：
1、处理图形渲染，包括游戏、视频和动画。
2、加速通用计算，如深度学习、科学模拟等。
3、高度并行处理，适用于大规模数据处理和处理密集型任务。
这里我们把NVIDIA显示芯片的显卡称为N卡，而将采用AMD显示芯片的显卡称为A卡，这两种显卡是目前的主流
Nvidia有个很有名次的编程框架CUDA，但是记住CUDA Core是商业营销概念，不能单纯用 CUDA Core的数量比较显卡性能
Nvidia 中大名鼎鼎的就是A100了，下面看看A100的架构
128个SM(流式多处理器)
流式多处理器包含TensorCore，TensorCore专门用于AI需要的矩阵运算
再探谈国产的华为昇腾AI芯片
华为昇腾AI芯片采用自研达芬奇架构，集成了2个AI Core，是昇腾AI芯片的计算核心，主要负责执行矩阵， 向量， 标量计算密集的算子任务，华为昇腾AI芯片对TensorFlow、PyTorch这些深度学习框架都支持。
就应用场景来说，升腾910主要被用于较小规模的AI任务，如人脸识别、图像分类和目标检测，适合嵌入式设备或中小规模的数据中心。支持国产，过几天会整理国产大模型ChatGLM，在升腾910上的部署、推理和训练的文章。
英伟达A100主要被用于大规模的数据中心和企业级应用，如机器学习、人工智能和深度学习等方面的高强度计算。它可以处理大规模的数据集，提供更高的能力和对多任务并发工作负载的支持。
文章来源地址https://www.toymoban.com/news/detail-746249.html
文章来源：https://www.toymoban.com/news/detail-746249.html
到了这里，关于预热篇1：大模型训练显卡选型的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
