650亿参数，8块GPU全参数微调-Toy模板网

这篇具有很好参考价值的文章主要介绍了650亿参数，8块GPU全参数微调。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

全参数微调的显存使用量和推理一样多，大模型不再只是大型科技公司的玩具了。在大模型方向上，科技巨头在训更大的模型，学界则在想办法搞优化。最近，优化算力的方法又上升到了新的高度。

大型语言模型（LLM）彻底改变了自然语言处理（NLP）领域，展示了涌现、顿悟等非凡能力。然而，若想构建出具备一定通用能力的模型，就需要数十亿参数，这大幅提高了 NLP 研究的门槛。在 LLM 模型调优过程中通常又需要昂贵的 GPU 资源，例如 8×80GB 的 GPU 设备，这使得小型实验室和公司很难参与这一领域的研究。

人们正在研究参数高效的微调技术（PEFT），例如 LoRA 和 Prefix-tuning，为利用有限资源对 LLM 进行调优提供了解决方案。然而，这些方法并没有为全参数微调提供实用的解决方案，而全参数微调已被公认为是比参数高效微调更强大的方法。

在上周复旦大学邱锡鹏团队提交的论文《Full Parameter Fine-tuning for Large Language Models with Limited Resources》中，研究人员提出了一种新的优化器 LOw-Memory Optimization（LOMO）。

通过将 LOMO 与现有的内存节省技术集成，与标准方法（DeepSpeed 解决方案）相比，新方法将内存使用量减少到了之前的 10.8%。因此，新方法能够在一台具有 8×RTX 3090 的机器上对 65B 模型进行全参数微调，每个 RTX 3090 具有 24GB 内存。

论文链接：https://arxiv.org/abs/2306.09782

在该工作中，作者分析了 LLM 中内存使用的四个方面：激活、优化器状态、梯度张量和参数，并对训练过程进行了三方面的优化：

从算法的角度重新思考了优化器的功能，发现 SGD 在微调 LLM 完整参数方面是一种很好的替代品。这使得作者可以删除优化器状态的整个部分，因为 SGD 不存储任何中间状态。

新提出的优化器 LOMO 将梯度张量的内存使用量减少到 O (1)，相当于最大梯度张量的内存使用量。

为了使用 LOMO 稳定混合精度训练，作者集成了梯度归一化、损失缩放，并在训练期间将某些计算转换为全精度。

新技术让内存的使用等于参数使用加上激活和最大梯度张量。全参数微调的内存使用被推向了极致，其仅等同于推理的使用。这是因为 forward+backward 过程的内存占用应该不会比单独的 forward 过程少。值得注意的是，在使用 LOMO 节省内存时，新方法确保了微调过程不受影响，因为参数更新过程仍然等同于 SGD。

该研究评估了 LOMO 的内存和吞吐量性能，表明借助 LOMO，研究者在 8 个 RTX 3090 GPU 上就可以训练 65B 参数的模型。此外，为了验证 LOMO 在下游任务上的性能，他们应用 LOMO 来调优 SuperGLUE 数据集集合上 LLM 的全部参数。结果表明了 LOMO 对具有数十亿参数的 LLM 进行优化的有效性。

一般而言，梯度张量表示一个参数张量的梯度，其大小与参数相同，这样一来内存开销较大。而现有的深度学习框架如 PyTorch 会为所有参数存储梯度张量。现阶段，存储梯度张量有两方面原因：计算优化器状态以及归一化梯度。
文章来源地址https://www.toymoban.com/news/detail-500769.html

到了这里，关于650亿参数，8块GPU全参数微调的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！