【Linux】【chatGLM-6B】如何从huggingface上下载chatGLM-6B模型于centos系统

9月前作者：你别说了多动脑子分类：Toy博客阅读(68) 违法举报

这篇具有很好参考价值的文章主要介绍了【Linux】【chatGLM-6B】如何从huggingface上下载chatGLM-6B模型于centos系统。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

一、centos7安装git-lfs

1. 下载安装包上传到服务器

从https://github.com/git-lfs/git-lfs/releases这个网址上选择以下框框中的内容进行下载
【Linux】【chatGLM-6B】如何从huggingface上下载chatGLM-6B模型于centos系统,linux,centos,git

2. 上传服务器并解压

tar -zxvf git-lfs-linux-amd64-v2.12.1.tar.gz

3 安装

sudo ./install.sh

二、模型下载

输入如下代码开始下载：git lfs clone https://huggingface.co/chatglm-6b

直接git clone下载的文件都特别小，不像是完整版的文章来源地址https://www.toymoban.com/news/detail-517647.html

到了这里，关于【Linux】【chatGLM-6B】如何从huggingface上下载chatGLM-6B模型于centos系统的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

开源大模型ChatGLM2-6B 2. 跟着LangChain参考文档搭建LLM+知识库问答系统

租用了1台GPU服务器，系统 ubuntu20，Tesla V100-16GB （GPU服务器已经关机结束租赁了） SSH地址：* 端口：17520 SSH账户：root 密码：Jaere7pa 内网： 3389 ，外网：17518 VNC地址：* 端口：17519 VNC用户名：root 密码：Jaere7pa 硬件需求，ChatGLM-6B和ChatGLM2-6B相当。量化等级最低 GPU 显存 F

2024年02月03日
浏览(51)
全网最新版ChatGLM-6B开源模型环境详细部署及安装——如何在低显存单显卡上面安装私有ChatGPT GPT-4大语言模型

ChatGPT的爆火让许多公司和个人都想要开发自己的大型语言模型，但是，由于算力和语言模型开发能力等诸多方面的限制，许多人最终都只能在开发的早期阶段止步不前。然而，近期清华大学知识工程和数据挖掘小组（Knowledge Engineering Group (KEG) Data Mining at Tsinghua University）发布

2024年02月05日
浏览(69)
ChatGLM2-6B、ChatGLM-6B 模型介绍及训练自己数据集实战

介绍 ChatGLM-6B是开源的文本生成式对话模型,基于General Language Model(GLM)框架,具有62亿参数,结合模型蒸馏技术,实测在2080ti显卡训练中上(INT4)显存占用 6G 左右, 优点 :1.较低的部署门槛： FP16 半精度下，ChatGLM-6B 需要至少 13GB 的显存进行推理，结合模型量化技术，一需求可以进一步

2024年02月12日
浏览(55)
AIGC - ChatGLM大模型：ChatGLM2-6B模型推理部署

如果你要问我为什么直接部署ChatGLM2的模型？因为当我在8月份在上海召开的全球人工智能大会上了解到清华-智谱发布的ChatGLM模型时，它已经发布了新的版本ChatGLM2，并且推理的效果提升了不少，那么本着只要最好的原则，我就直接上手先玩新版本了。作为AIGC方面的小白来说

2024年02月06日
浏览(46)
免费部署开源大模型 ChatGLM-6B

参考：【大模型-第一篇】在阿里云上部署ChatGLM3-CSDN博客 ChatGLM 是一个开源的、支持中英双语的对话语言模型，由智谱 AI 和清华大学 KEG 实验室联合发布，基于 General Language Model (GLM) 架构，具有 62 亿参数。ChatGLM3-6B 更是在保留了前两代模型对话流畅、部署门槛低等众多优秀特

2024年01月18日
浏览(76)
第五篇-ChatGLM2-6B模型下载

可以使用如下代码下载创建下载环境编写代码 down_glm2.py snapshot_download其他参数只允许下载部分类型的文件（以JSON为例） allow_patterns=‘*.json’, 不允许下载部分类型的文件（以JSON为例） ignore_patterns=[‘*.json’] 执行下第一篇-ChatGLM-webui-Windows安装部署-CPU版第二篇-二手工作站

2024年02月14日
浏览(73)
【LLM】chatglm-6B模型训练和推理

本篇文章记录下 chatglm-6B 训练和推理过程环境：Ubuntu 20.04 + 1.13.0+cu116 chatglm-6B 源代码仓库：链接 chatglm-6B 模型权重：链接这里使用的是 THUDM 在 hugging face 开源的模型。因为模型比较大，仓库保存模式使用的是 git lfs 模式，再 clone 之后再使用 git lfs pull 去 download 大文件。 c

2024年02月10日
浏览(50)
中英双语对话大语言模型：ChatGLM-6B

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优

2024年02月12日
浏览(39)
ChatGLM2-6B模型推理流程和模型架构详解

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档因为本人在做大模型优化方面的研究，之前拆了ChatGLM2的源代码，看看能从哪些地方深入。结果刚拆完没多久，昨天，也就是10 月 27 日，智谱 AI 在 2023 中国计算机大会(CNCC)上发布了自研第三代对话大模

2024年02月03日
浏览(52)
使用Triton部署chatglm2-6b模型

NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/Llama-2-7b)、Python(chatglm)、ONNX Runtime和OpenVino。 NVIDIA Triton Server是一个高性能的推断服务器，具有以下特点： 1. 高性能：Triton Server为使用GPU进行推

2024年02月08日
浏览(52)