1. 什么是 langchain-ChatGLM
一种利用 ChatGLM-6B + langchain 实现的基于本地知识的 ChatGLM 应用。增加 clue-ai/ChatYuan 项目的模型 ClueAI/ChatYuan-large-v2 的支持。
本项目中 Embedding 默认选用的是 GanymedeNil/text2vec-large-chinese，LLM 默认选用的是 ChatGLM-6B。依托上述模型，本项目可实现全部使用开源模型离线私有部署。
2. 什么是 langchain
大型语言模型（LLM）正在成为一种变革性的技术，使开发者能够建立他们以前无法建立的应用程序。然而，孤立地使用这些LLM往往不足以创建一个真正强大的应用程序–当你能将它们与其他计算或知识来源相结合时，真正的力量才会出现。这个库的目的是协助开发这些类型的应用。
langchain 使用 Transformer 模型，并在多个语言间建立链式结构实现翻译。比如，它可以通过英语→法语→西班牙语完成英语到西班牙语的翻译。
langchain 只使用公开数据集进行训练，不需要额外的数据。它使用的训练集包括：
- WMT2014英法翻译数据集
- WMT2014英德翻译数据集
- UN翻译语料库
langchain 提供11种语言的机器翻译模型,语言包括：英语、法语、西班牙语、意大利语、德语、荷兰语、葡萄牙语、俄语、日语、中文、阿拉伯语。
langchain的参数量较小,其基础模型只有 47M 参数,加快推理速度并降低计算资源要求。
langchain开源免费，模型与代码都在 GitHub 开源，方便研究与生产使用。
3. Github 地址
https://github.com/imClumsyPanda/langchain-ChatGLM
https://github.com/hwchase17/langchain
4. 安装 Miniconda3
下载 Conda 安装脚本，
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
运行安装脚本，
bash Miniconda3-latest-Linux-x86_64.sh
按提示操作。当提示是否初始化 Conda 时,输入 “yes”，
安装完成后，关闭当前终端并打开新终端，这将激活 Conda，
sudo su - root
更新 Conda 至最新版本，
conda update conda
添加必要的 Conda 通道以获取更多软件包，
conda config --add channels conda-forge
conda config --add channels defaults
测试是否安装成功，
conda list
如果显示 Conda 及其内部包的列表,则说明安装成功。
5. 创建虚拟环境
conda create -n langchain-chatglm python==3.10.4
conda activate langchain-chatglm
6. 部署 langchain-ChatGLM
git clone https://github.com/imClumsyPanda/langchain-ChatGLM; cd langchain-ChatGLM
pip3 install -r requirements.txt
pip3 install -U gradio
pip3 install modelscope
7. 启动 langchain-ChatGLM
python webui.py
8. 访问 langchain-ChatGLM
使用浏览器打开 http://localhost:7860/，
问它一个问题，清华大学在哪？
9. API部署
python api.py
10. 命令行部署
python cli_demo.py
11. 其他，LangChain Document Loaders
refer: https://python.langchain.com/en/latest/modules/indexes/document_loaders.html
将语言模型与你自己的文本数据结合起来是一个强有力的方法。做到这一点的第一步是将数据加载到 "文档 "中 – 即一些文本片段。这个模块的目的是使之变得简单。
这方面的一个主要驱动是 Unstructured python 包。这个包是将所有类型的文件 – 文本、powerpoint、图片、html、pdf等–转化为文本数据的好方法。文章来源：https://www.toymoban.com/news/detail-457546.html
完结！文章来源地址https://www.toymoban.com/news/detail-457546.html
到了这里，关于本地部署 langchain-ChatGLM的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
