LMFlow安装，训练个人专属ChatGPT，港科大开源LMFlow-Toy模板网

这篇具有很好参考价值的文章主要介绍了LMFlow安装，训练个人专属ChatGPT，港科大开源LMFlow。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

基本安装
港大LMFlow地址

https://github.com/OptimalScale/LMFlow

个人gitlab地址

http://yaoisss.ddns.net:9003/yaoisss/LMFlow

相关下载个人NAS地址
个人NAS地址

https://yaoisss.ddns.net:52311/portal/apis/fileExplorer/share_link.cgi?link=Hm34QCg1DeZTn2m6N2NQdw

ubuntu server
安装好后查看驱动是否占用安装依赖

sudo vim /etc/modprobe.d/blacklist-nouveau.conf

blacklist nouveau
options nouveau modeset=0

sudo update-initramfs -u

reboot

lspci | grep nouvea

apt install gcc g++ make

安装NVIDIA驱动
nvidia驱动查找

https://www.nvidia.cn/download/find.aspx?lang=cn

安装CUDA Toolkit

CUDA11.7 https://developer.nvidia.cn/cuda-11-7-0-download-archive文章来源地址https://www.toymoban.com/news/detail-418797.html

报错后面加入   --override

安装完后
vim ~/.bashrc
export PATH="/usr/local/cuda-11.7/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/cuda-11.7/lib64:$LD_LIBRARY_PATH"

安装Anaconda
运行

git clone https://github.com/OptimalScale/LMFlow.git

conda create -n lmflow python=3.9 -y

conda activate lmflow

conda install mpi4py

pip install -e .  -i https://pypi.tuna.tsinghua.edu.cn/simple

出错修改 requirements.txt

numpy==1.24.2
datasets==2.10.1
peft @ git+http://yaoisss.ddns.net:9003/yaoisss/peft
torch==2.0.0
wandb==0.14.0
deepspeed==0.8.2
trl @ git+http://yaoisss.ddns.net:9003/yaoisss/trl.git#egg=trl-0.4.1
sentencepiece
transformers @ git+http://yaoisss.ddns.net:9003/yaoisss/transformers
flask
flask_cors