使用您自己的计算机训练 Stable Diffusion 和 Bloom (175B) 等模型-Toy模板网

这篇具有很好参考价值的文章主要介绍了使用您自己的计算机训练 Stable Diffusion 和 Bloom (175B) 等模型。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

在我们最近的几篇文章中，我们一直在提到围绕大型语言和生成 AI 模型的炒作，以及如何减少推理和训练时间。随着我们的用户开始使用这些模型并对其进行微调，他们自然希望微调和部署包含数千亿参数的模型，以提高其特定用例的性能。

通常，这是一项要求非常高的任务，需要大量计算和 40GB 检查点的存储。这在普通计算机硬件上是不可行的。除了所需的电力和存储之外，这种性质的微调模型需要很长时间才能运行，而且本质上非常昂贵——直到现在。

介绍Huggingface的PEFT库，该库支持LoRA、Prefix Tuning等Parameter Efficient Fine-tuning方法，无需对所有模型参数进行微调，即可使预训练语言模型高效适配各种下游应用。这些不同的技术实现了与完全微调相当的性能。

PEFT方法

自然语言处理的一个重要范例包括对一般领域数据的大规模预训练和对特定任务或领域的适应。在进行微调时，我们会更新目标任务的整套模型参数。虽然微调获得了良好的性能，但它在训练过程中会消耗内存，因为必须存储所有参数的梯度和优化器状态。此外，在推理期间为每个任务保留模型参数的副本是不方便的，因为预训练模型通常很大。

目前 PEFT 库支持 4 种方法，LoRA、Prefix Tuning、P-Tuning和Prompt Tuning。尽管这些方法有细微差别，但它们都围绕着相似的范例展开。他们冻结预训练的模型权重，只更新参数权重的一个子集。以前，现有技术通常通过扩展模型深度或减少模型可用序列长度来引入延迟。因此，这些方法以前无法匹配微调基线，从而在效率和模型质量之间进行权衡。

例如，使用LoRA，它冻结了预训练的模型权重，并将可训练的秩分解矩阵注入Transformer架构的每一层，大大文章来源地址https://www.toymoban.com/news/detail-793115.html

到了这里，关于使用您自己的计算机训练 Stable Diffusion 和 Bloom (175B) 等模型的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！