阿里云安装ChatGLM-6B

这篇具有很好参考价值的文章主要介绍了阿里云安装ChatGLM-6B。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1.环境配置

  • 阿里云机器学习PAI方式,不用配置环境。直接安装ChatGLM-6B。可跳过1
1.1环境要求

服务器最好是境外服务器,不然Github资源下载不稳定。文章来源地址https://www.toymoban.com/news/detail-544597.html

软件 版本
Python 3.9.15
pytorch 1.12.1-gpu-cu113
cuda 11.3.0
ubuntu 20.04
1.2 安装CUDA11.3.0
  • 参考连接
wget https://developer.download.nvidia.com/compute/cuda/11.3.0/local_installers/cuda_11.3.0_465.19.01_linux.run
sudo sh cuda_11.3.0_465.19.01_linux.run
1.3 安装python3.9
  • Python参考连接
  • OpenSSL参考连接
#----------------OpenSSL安装----------------
# 下载
wget https://github.com/openssl/openssl/releases/download/OpenSSL_1_1_1s/openssl-1.1.1s.tar.gz
# 解压
tar xvzf openssl-1.1.1s.tar.gz
# 进入目录
cd openssl-1.1.1s/
# 配置
./config  --prefix=/usr/local/openssl-1.1.1s
# 编译安装
make && make install

#----------------Python安装----------------
# 下载
wget https://www.python.org/ftp/python/3.9.15/Python-3.9.15.tgz
# 解压
tar -xzf Python-3.9.15.tgz
# 移动到固定目录
mv  Python-3.9.15 /usr/local/share/
# 进入目录
cd /usr/local/share/Python-3.9.15
# 配置
./configure --prefix=/usr/local/python3.9 --with-openssl=/usr/local/openssl-1.1.1s
# 编译安装
make && make install
# 创建软连接
ln -s /usr/local/python3.9/bin/python3.9 /usr/bin/python3.9
ln -s /usr/local/python3.9/bin/python3.9-config /usr/bin/python3.9-config
# pip使用
python3.9 -m pip xxxxxx
1.4 安装pytorch
  • 参考连接
python3.9 -m pip install torch==1.12.1+cu113 torchvision==0.13.1+cu113 torchaudio==0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113

2.安装ChatGLM-6B

  • web_demo.py文件底部share=True的情况启动,会有出现外部临时链接,外网即可访问。一般是https://xxxxxxxxxxxxxx.gradio.live/
  • 接口访问,启动api.py文件即可,模型路径也需要更改为实际路径
apt-get update
apt-get install git-lfs
git init
git lfs install
# 下载源码
git clone https://github.com/THUDM/ChatGLM-6B.git
# 进入目录
cd ChatGLM-6B
# 创建目录
mkdir model
# 进入目录
cd model
# 下载官方模型文件(比较慢,十几个GB)
git clone https://huggingface.co/THUDM/chatglm-6b
# cd到主目录
cd ..
# 更改web_demo.py的模型文件路径为实际路径,一般在5行6行
THUDM/chatglm-6b更改为model/chatglm-6b
# 启动
python3.9 web_demo.py

3.微调

  • 微调参考

到了这里,关于阿里云安装ChatGLM-6B的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包