FastGPT配置文件及OneAPI程序：

9月前作者：cheng1999_cn1 分类：Toy博客阅读(33) 违法举报

这篇具有很好参考价值的文章主要介绍了FastGPT配置文件及OneAPI程序：。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

FastGPT配置文件及OneAPI程序：
百度网盘请输入提取码
提取码：wuhe

创建fastgpt目录：mkdir fastgpt

切换到fastgpt目录：cd fastgpt

下载docker-compose文件：curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml

下载config文件：curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

docker-compose文件github：https://github.com/labring/FastGPT/blob/main/files/deploy/fastgpt/docker-compose.yml

config文件github：https://github.com/labring/FastGPT/blob/main/projects/app/data/config.json

切换fastgpt目录：cd \wsl.localhost\Ubuntu\home\user-name\fastgpt user-name记得替换为你自己的用户名

拉取镜像：docker-compose pull

在后台运行容器：docker-compose up -d

FastGPT的页面：http://localhost:3020/

登录用户名为root，密码为docker-compose文件里DEFAULT_ROOT_PSW，默认密码1234

ChatGLM3官方的一键包链接：百度网盘请输入提取码
提取码：glut

用docker部署m3e模型，默认用CPU运行：
docker run -d -p 6008:6008 --name=m3e-large-api registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest
使用GPU运行：
docker run -d -p 6008:6008 --gpus all --name=m3e-large-api registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest
原镜像：
docker run -d -p 6200:6008 --name=m3e-large-api stawky/m3e-large-api:latest

查看被系统保留的端口：
netsh int ipv4 show excludedport tcp
保留端口给程序使用：
netsh int ipv4 add excludedportrange protocol=tcp startport=<起始端口> numberofports=<排除端口数量>

测试m3e的api：
curl --location --request POST 'https://localhost:6008/v1/embeddings' \
--header 'Authorization: Bearer sk-aaabbbcccdddeeefffggghhhiiijjjkkk' \
--header 'Content-Type: application/json' \
--data-raw '{
"model": "m3e",
"input": ["laf是什么"]
}'
localhost需要替换成你的ip地址，ip地址可以在你连接的网络的属性里查看，或者在cmd里使用：ipconfig查看WLAN或者以太网那一栏。注意，ip地址要填ipv4的地址，不要填成ipv6的地址

OneAPI网站：http://localhost:3000/

OneAPI网页后，使用root用户和默认密码123456登录

chatglm3的Base URL：http://localhost:8000 localhost修改为你的本地ip地址

m3e的Base URL：http://localhost:6008 localhost记得修改为你的本地ip地址

m3e密钥：sk-aaabbbcccdddeeefffggghhhiiijjjkkk

docker-compose文件修改OPENAI_BASE_URL：http://localhost:3000/v1 localhost记得替换为你的本地ip地址

docker-compose文件修改CHAT_API_KEY：填入从OneAPI令牌复制的key

修改config文件ChatModels：
{
"model": "chatglm3",
"name": "chatglm3",
"maxContext": 4000,
"maxResponse": 4000,
"quoteMaxToken": 2000,
"maxTemperature": 1,
"vision": false,
"defaultSystemChatPrompt": ""
},
ChatGLM3-6B支持的上下文长度为8k，你可以将maxContext和maxResponse改为8000
可以在defaultSystemChatPrompt里设置你的系统默认提示词

修改config文件QAModels：
{
"model": "chatglm3",
"name": "chatglm3",
"maxContext": 4000,
"maxResponse": 4000,
"price": 0
}

修改config文件VectorModels：
{
"model": "m3e",
"name": "m3e",
"price": 0.1,
"defaultToken": 500,
"maxToken": 1800
}
QAModels和VectorModels都添加好后，记得在括号的前面加个英文逗号，不然config文件无法生效

重新更新配置文件，依次输入命令：
cd \wsl.localhost\Ubuntu\home\user-name\fastgpt user-name记得换成你的Ubuntu用户名
docker-compose pull
docker-compose up -d

进入FastGPT网页：http://localhost:3020/
登录用户名为root，密码为docker-compose文件里DEFAULT_ROOT_PSW，默认密码1234文章来源地址https://www.toymoban.com/news/detail-834473.html

到了这里，关于FastGPT配置文件及OneAPI程序：的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

[oneAPI] 手写数字识别-BiLSTM

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ 使用了pytorch以及Intel® Optimization for PyTorch，通过优化扩展了 PyTorch，使英特尔硬件的性能进一步提升，让手写数字识别问题更加的快速高效使用

2024年02月12日
浏览(42)
[oneAPI] Neural Style Transfer

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ Neural Style Transfer是一种使用 CNN 将一幅图像的内容与另一幅图像的风格相结合的算法。给定内容图像和风格图像，目标是生成最小化与内容图像

2024年02月12日
浏览(40)
[oneAPI] 使用字符级 RNN 生成名称

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ 为了深入探索语言模型在分类和生成方面的卓越能力，我们特意设计了一个独特的任务。此任务的独特之处在于，它旨在综合学习多种语言的词

2024年02月11日
浏览(37)
[oneAPI] 使用Bert进行中文文本分类

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ 在本次实验中，我们利用PyTorch和Intel® Optimization for PyTorch的强大功能，对PyTorch进行了精心的优化和扩展。这些优化举措极大地增强了PyTorch在各

2024年02月12日
浏览(44)
基于因特尔OneAPI实现矩阵并行乘法运算

OneAPI介绍 Intel oneAPI 是一个跨行业、开放、基于标准的统一的编程模型，旨在提供一个适用于各类计算架构的统一编程模型和应用程序接口。其核心思想是使开发者只需编写一次代码，便可在跨平台的异构系统上运行，支持的底层硬件架构包括 CPU、GPU、FPGA、神经网络处理器以

2024年02月04日
浏览(39)
Intel oneAPI——让高性能计算触手可及

在人工智能兴起的今天，大规模、高性能计算已成为社会发展的刚需。动辄千万节点规模的社交网络、交通网络，语言聊天模型中的大规模神经网络，以及航空航天等涉及大规模计算的场景，都少不了并行计算的支持。并行计算是一种一次可执行多个指令的算法，目的是提高

2024年02月01日
浏览(64)
oneAPI人工智能分析工具包实现图像处理

oneAPI是一个由英特尔（Intel）主导的、面向异构计算的开放标准和平台。它旨在简化和加速跨多种硬件架构的应用程序开发，包括CPU、GPU、FPGA和其他加速器。以下是关于oneAPI发展的一些要点： 1.创立背景和目标： oneAPI的发展始于英特尔意识到在异构计算时代，开发者面临的

2024年02月11日
浏览(62)
[oneAPI] 基于BERT预训练模型的英文文本蕴含任务

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ 我们在Intel® DevCloud for oneAPI平台上构建了我们的实验环境，充分利用了其完全虚拟化的特性，使我们能够专注于模型的开发和优化，无需烦心底

2024年02月11日
浏览(35)
[oneAPI] 基于BERT预训练模型的命名体识别任务

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ 在本次实验中，我们在Intel® DevCloud for oneAPI上搭建实验，借助完全虚拟化的环境，专注于模型开发与优化，无需关心底层配置。使用Intel® Opti

2024年02月12日
浏览(37)
[oneAPI] 基于BERT预训练模型的SQuAD问答任务

比赛：https://marketing.csdn.net/p/f3e44fbfe46c465f4d9d6c23e38e0517 Intel® DevCloud for oneAPI：https://devcloud.intel.com/oneapi/get_started/aiAnalyticsToolkitSamples/ 我们在Intel® DevCloud for oneAPI平台上构建了实验环境，充分发挥其完全虚拟化的优势。更具影响力的是，我们充分发挥了Intel® Optimization for PyTor

2024年02月11日
浏览(41)