Chatgpt私有化部署(全流程)

这篇具有很好参考价值的文章主要介绍了Chatgpt私有化部署(全流程)。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

前言

  当下使用chatgpt来帮助完成工作已然成为主流,但想访问必须先面对地区的封锁,所以使用openai官方提供的API来部署至本地服务器从而更加便利的使用chatgpt。本文章主要介绍如何部署私有聊天机器人。

条件准备:

  1. 公网服务器一台(可选阿里云、腾讯云等)
  2. openai账号,用于获取私人的apikey来调用api接口,每个账户都有免费的额度,额度用完后就需要充值或者更换账户 ,可以在Usage中查看个人账户的余额。apikey创建后因安全性问题只显示一次,请保存好,不要分享给其他人Chatgpt私有化部署(全流程)
  3. 下载基于第三方开发者开发的基于OpenAI 的应用如ChatGPT-Next-Web以及ChatGPT-Web、OpenAI-Translator等,将代码打包至服务器中进行下一步的部署。
    #导入代码仓库,也可打成ZIP导入
    [root@TttRark ~]# git clone https://github.com/Yidadaa/ChatGPT-Next-Web.git
    #安装依赖,可以使用国内源
    [root@TttRark ChatGPT-Next-Web-main]# yum install -y nodejs npm
    [root@TttRark ChatGPT-Next-Web-main]# npm install -y yarn
    
  4. 进入项目文件夹scripts中,执行setup.sh脚本,一键部署安装。编写.env.local文件配置所需环境变量。国内服务器由于无法直连,所以必须修改代理,代理地址可以使用api.openai-proxy.com
    [root@TttRark ChatGPT-Next-Web-main]# sh scripts/setup.sh 
    #编写环境文件
    [root@TttRark ChatGPT-Next-Web-main]# cat .env.local 
    OPENAI_API_KEY=你的APIkey
    CODE=项目验证码,用于验证
    BASE_URL=你的代理IP
    
    
  5. 创建启动脚本用于后续方便维护,编写systemd服务文件,用于开机启动或者重启。

    [root@TttRark ChatGPT-Next-Web-main]# cat start.sh 
    #!/bin/bash
    PORT=改成你自定义的端口
    PORT=$PORT yarn start
    
    #创建service文件
    [root@TttRark ChatGPT-Next-Web-main]# cat /etc/systemd/system/chatgpt.service 
    [Unit]
    Description=ChatGPT Bot
    
    [Service]
    User=root
    Group=root
    Type=simple
    Restart=always
    RestartSec=20
    StartLimitInterval=0
    Nice=10
    WorkingDirectory=/root/ChatGPT-Next-Web-main/
    ExecStart=/usr/bin/bash /root/ChatGPT-Next-Web-main/start.sh
    StandardOutput=null
    TimeoutStartSec=30
    
    [Install]
    RequiredBy=multi-user.target
    #设置开机自启
    systemctl daemon-reload 
    systemctl enable chatgpt
    systemctl start chatgpt
  6. 访问测试Chatgpt私有化部署(全流程)填写自己设置的验证密码Chatgpt私有化部署(全流程)

                                                                                                              交流联系q:1257455837文章来源地址https://www.toymoban.com/news/detail-418959.html

到了这里,关于Chatgpt私有化部署(全流程)的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Sealos 云操作系统私有化部署教程

    Sealos 私有云已经正式发布了,它为企业用云提供了一种革命性的新方案。Sealos 的核心优势在于,它允许企业 在自己的机房中一键构建一个功能与 Sealos 公有云完全相同的私有云 。这意味着企业可以在自己的控制和安全范围内,享受到公有云所提供的灵活性和扩展性。这对于

    2024年02月05日
    浏览(44)
  • 可私有化部署的车牌识别API接口

    车牌OCR识别 的出现为企业提供了一种高效、准确的车牌识别和信息提取解决方案。通过图像预处理、区域定位、字符分割和字符识别等步骤,将获取的车牌图片或视频中的车牌信息瞬时输出,可提供车牌识别API接口做二次开发,该 API 能够自动识别车牌中的段信息,并

    2024年02月11日
    浏览(42)
  • 用一杯星巴克的钱,训练自己私有化的ChatGPT

    文章摘要:用一杯星巴克的钱,自己动手2小时的时间,就可以拥有自己训练的开源大模型,并可以根据不同的训练数据方向加强各种不同的技能,医疗、编程、炒股、恋爱,让你的大模型更“懂”你…..来吧,一起尝试下开源DolphinScheduler加持训练的开源大模型! ChatGPT的诞生

    2024年02月06日
    浏览(28)
  • 私有化部署大模型:5个.Net开源项目

    从零构建.Net前后端分离项目 今天一起盘点下,10月份推荐的5个.Net开源项目(点击标题查看详情)。 1、BootstrapBlazor企业级组件库:前端开发的革新之路 BootstrapBlazor是一个用于构建现代Web应用程序的开源框架,它基于Blazor框架,采用Bootstrap的UI样式。Blazor框架允许使用C#代替

    2024年02月05日
    浏览(41)
  • 关于语言模型私有化部署的讨论 | AIGC实践

    上周在与TC同行关于AIGC实践的线上交流中,大家普遍比较关心的一个实践切入点是:语言模型的私有化部署——简单来说,就是在企业内部,部署一个属于自己的“ChatGPT”,对于本行业/专业知识,以及企业独有的产品和技术信息有充分的了解,并且提供用户接口,通过自然

    2024年02月11日
    浏览(42)
  • C#开源项目:私有化部署LLama推理大模型

    推荐一个C#大模型推理开源项目,让你轻松驾驭私有化部署! 01 项目简介 LLama是Meta发布的一个免费开源的大模型,是一个有着上百亿数量级参数的大语言模型,支持CPU和GPU两种方式。 而LLamaSharp就是针对llama.cpp封装的C#版本,让方便我们基于C#开发应用,让我们不需要自己编译

    2024年02月03日
    浏览(45)
  • 大语言模型之六- LLM之企业私有化部署

    2023年上半年,广泛使用API(如OpenAI)来创建基于大型语言模型(LLM)的基础设施,极大地塑造了软件领域。 LangChain 和LlamaIndex在这一趋势中发挥了重要的作用。2023年下半年LLMOps的运维工作流程中微调(或指令调整)模型门槛降低基本成了业内标准流程,这一趋势的发展主要

    2024年02月11日
    浏览(29)
  • 企业内部即时通讯工具支持内网私有化部署

    即时通讯可以说是与我们生活相关最为密切的工具了,即时通讯可以帮助我们与亲朋好友进行交流通讯、文件传输、视频通话等,而企业即时通讯正是个人即时通讯的应用延伸,它可以为互联网时代的企业员工交流,企业信息互通创造良好的条件,现在越来越多的企业开始私

    2023年04月14日
    浏览(40)
  • 开源双语对话语言模型 ChatGLM-6B 本地私有化部署

    本文首发于:https://www.licorne.ink/2023/08/llm-chatglm-6b-local-deploy/ ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGL

    2024年02月10日
    浏览(47)
  • SaaS/PaaS/laaS,私有化/云部署,低代码

    4399春招火热进行中 🗣4399游戏2024届春招火热进行中!! HC很足!!【关于4399】全球领先的中文娱乐平台之一,连续九年中国互联网企业40强 ,拥有《文明与征服》等多款亿   地平线暑期实习启动 地平线地平线25届暑期转正实习内推即将启动,大家可以提前准备简历并mark一

    2024年04月08日
    浏览(66)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包