PEFT学习：使用LORA进行LLM微调

7月前作者：jq_98 分类：Toy博客阅读(31) 违法举报

这篇具有很好参考价值的文章主要介绍了PEFT学习：使用LORA进行LLM微调。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

PEFT安装

由于LORA,AdaLORA都集成在PEFT上了，所以在使用的时候安装PEFT是必备项

方法一：PyPI
To install 🤗 PEFT from PyPI:

pip install peft

方法二：Source

New features that haven’t been released yet are added every day, which also means there may be some bugs. To try them out, install from the GitHub repository:

pip install git+https://github.com/huggingface/peft

If you’re working on contributing to the library or wish to play with the source code and see live results as you run the code, an editable version can be installed from a locally-cloned version of the repository:

git clone https://github.com/huggingface/peft
cd peft
pip install -e .

LORA使用：

推荐文章：
HuggingFace 官方文档doc
HuggingFace官方认证文章（知乎）
HuggingFace官网blog，PEFT: Parameter-Efficient Fine-Tuning of Billion-Scale Models on Low-Resource Hardware
视频手把手教学：Boost Fine-Tuning Performance of LLM: Optimal Architecture w/ PEFT LoRA Adapter-Tuning on Your GPU
八月末最新出炉：使用 LoRA 进行高效微调：大型语言模型最佳参数选择指南
大模型高效微调-PEFT框架介绍
大模型微调（finetune）方法总结-LoRA,Adapter,Prefix-tuning，P-tuning，Prompt-tuning
peft代码解读:Prefix Tuning/LoRA/P-Tuning/Prompt Tuning

学习了几天，发现这些文章是最有含金量的，这里帮大家总结好了，看完就可肯定会了，不用自己再东找西找资源了，如果感觉有用的话，欢迎点赞收藏文章来源地址https://www.toymoban.com/news/detail-695738.html

到了这里，关于PEFT学习：使用LORA进行LLM微调的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

MedicalGPT：基于LLaMA-13B的中英医疗问答模型（LoRA）、实现包括二次预训练、有监督微调、奖励建模、强化学习训练[LLM:含Ziya-LLaMA]。

项目设计集合（人工智能方向）：助力新人快速实战掌握技能、自主完成项目设计升级，提升自身的硬实力（不仅限NLP、知识图谱、计算机视觉等领域）：汇总有意义的项目设计集合，助力新人快速实战掌握技能，助力用户更好利用 CSDN 平台，自主完成项目设计升级，提升自

2024年02月20日
浏览(36)
LLM-LLaMA中文衍生模型：Chinese-LLaMA-Alpaca【扩充词表、Lora部分参数预训练、微调】

GitHub：GitHub - ymcui/Chinese-LLaMA-Alpaca: 中文LLaMAAlpaca大语言模型+本地CPU/GPU训练部署 (Chinese LLaMA Alpaca LLMs) 中文LLaMA模型中文LLaMA模型在原版的基础上扩充了中文词表，使用了中文通用纯文本数据进行二次预训练。模型名称训练数据重构模型[1] 大小[2] LoRA下载[3] Chinese-LLaMA-7B 通用

2024年02月15日
浏览(51)
【LLM】大语言模型高效微调方案Lora||直击底层逻辑

大白话: DL的本质就是矩阵的乘法，就能实现LLM, 假设两个矩阵都很大，一个mxn,一个nxd的矩阵，m,n,d这几个数字可能几千甚至上万的场景，计算起来代价很大，如果我们可以small 这些数字，缩小到10甚至5这样的scenario，cost就非常的小。训练的时候只训练右边橙色的AB矩阵那

2024年02月05日
浏览(34)
大模型入门（四）—— 基于peft 微调 LLaMa模型

llama-7b模型大小大约27G，本文在单张/两张 16G V100上基于hugging face的peft库实现了llama-7b的微调。 1、模型和数据准备使用的大模型：https://huggingface.co/decapoda-research/llama-7b-hf，已经是float16的模型。微调数据集：https://github.com/LC1332/Chinese-alpaca-lora/blob/main/data/trans_chinese_alpaca_data.

2024年02月10日
浏览(36)
快速训练自己的大语言模型：基于LLAMA-7B的lora指令微调

前言：系统：ubuntu 18.04 显卡：A100-80G（蹭的，嘿嘿~）（本次主要记录如何快速进行大模型的指令微调）地址：https://github.com/Lightning-AI/lit-llama 切换到工程目录使用pip安装依赖库（当然，这里可能会遇到网络问题，安装不了lightning）可使用以下方式安装：下载lightning工程

2024年02月11日
浏览(39)
微调语言大模型选LoRA还是全参数？基于LLaMA 2深度分析

本文对比了全参数微调和LoRA，并分析了这两种技术各自的优势和劣势。作者使用了三个真实用例来训练LLaMA 2模型，这提供了比较特定任务的性能、硬件要求和训练成本的基准。本文证明了使用LoRA需要在serving效率和模型质量之间做出权衡，而这取决于具体的任务。此外，本

2024年02月05日
浏览(31)
【自然语言处理】大模型高效微调：PEFT 使用案例

PEFT（Parameter-Efficient Fine-Tuning，参数高效微调），是一个用于在不微调所有模型参数的情况下，高效地将预训练语言模型（PLM）适应到各种下游应用的库。 PEFT方法仅微调少量（额外的）模型参数，显著降低了计算和存储成本，因为对大规模PLM进行完整微调的代价过高。最近的

2024年02月13日
浏览(35)
LLM-LLaMA中文衍生模型：LLaMA-ZhiXi【没有对词表进行扩增、全参数预训练、部分参数预训练、指令微调】

下图展示了我们的训练的整个流程和数据集构造。整个训练过程分为两个阶段：（1）全量预训练阶段。该阶段的目的是增强模型的中文能力和知识储备。（2）使用LoRA的指令微调阶段。该阶段让模型能够理解人类的指令并输出合适的内容。 3.1 预训练数据集构建为了在保

2024年02月12日
浏览(31)
【LLM】金融大模型场景和大模型Lora微调实战

金融行业需要垂直领域LLM，因为存在金融安全和数据大多数存储在本地，在风控、精度、实时性有要求（1）500亿参数的BloombergGPT BloombergGPT金融大模型也是用transformer架构，用decoder路线，构建目前规模最大的金融数据集FINPILE，对通用文本+金融知识的混合训练。用了512块40

2024年02月12日
浏览(37)
LLM：LLaMA模型和微调的Alpaca模型

简单了解[LeCun狂赞：600刀GPT-3.5平替！斯坦福70亿参数「羊驼」爆火，LLaMA杀疯了] 论文原文：https://arxiv.org/abs/2302.13971v1 模型就是用的transformer的decoder，模型设计的不同点在于： 1 Position Embedding ：RoPE旋转位置编码rotary-embedding 删除了绝对位置嵌入，而是在网络的每一层添加了

2024年02月10日
浏览(32)