Nginx实现ChatGPT API代理

这篇具有很好参考价值的文章主要介绍了Nginx实现ChatGPT API代理。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、前言说明

  1. 本篇文章可以直接用于公司生产级的使用,所需要的资源直接改为公司级的即可平替使用
  2. 文章均已通过实践应用,保证文章准确性,但因不同环境的不同可能效果不一致可以评论区评论
  3. 本文主要实现代理 https://api.openai.com 的调用,可以无需魔法调用OpenAI ChatGpt

注意:文章以生产级的流程进行配置,技术难度:二颗星,前置技术掌握:四颗星

文章不涉及到OpenAI账号注册、key生成的内容,如果这些方面遇到问题可以评论区留言

后续会分享如何用Java搭建生产级的AI智能助手,以及公司产品如何接入AI与业务结合

二、前置准备

  1. 国外服务器:能ping通 api.openai.com,建议美国的服务器
    • tip:如果有外币卡,可以申请azure云服务器,有免费试用,谷歌云也有
  2. 代理域名:根据自己的需要,使用服务器IP也行,如果是生产级建议域名,否则如果切换服务器就需要改调用的地方
    • 域名需要提前在DNS服务里面修改域名指向国外服务器地址
  3. SSL证书:配置https,可以参考之前发布的文章:https://juejin.cn/post/6987196734560534565
    • 阿里云可以申请免费的SSl证书

三、nginx配置

以下为nginx核心配置,只需要更改对应<注释内容>为自己的即可,别的nginx优化配置按照需求来文章来源地址https://www.toymoban.com/news/detail-437671.html

http {
    server {
        listen       80;
        server_name  <替换为自己的域名>;
        rewrite ^(.*)$ https://$host$1 permanent;
    }

    server {
        listen 443 ssl;
        server_name <替换为自己的域名>;
        ssl_certificate "<替换为自己的证书路径>.pem";
        ssl_certificate_key "<替换为自己的证书路径>.key";
        ssl_session_cache shared:le_nginx_SSL:1m;
        ssl_session_timeout 1440m;
        ssl_protocols TLSv1 TLSv1.1 TLSv1.2 TLSv1.3;
        ssl_prefer_server_ciphers on;
        ssl_ciphers TLS13-AES-256-GCM-SHA384:TLS13-CHACHA20-POLY1305-SHA256:TLS13-AES-128-GCM-SHA256:TLS13-AES-128-CCM-8-SHA256:TLS13-AES-128-CCM-SHA256:EECDH+CHACHA20:EECDH+CHACHA20-draft:EECDH+ECDSA+AES128:EECDH+aRSA+AES128:RSA+AES128:EECDH+ECDSA+AES256:EECDH+aRSA+AES256:RSA+AES256:EECDH+ECDSA+3DES:EECDH+aRSA+3DES:RSA+3DES:!MD5;
        location / {
            proxy_pass  https://api.openai.com/;
            proxy_ssl_server_name on;
            proxy_set_header Host api.openai.com;
            proxy_set_header Connection '';
            proxy_http_version 1.1;
            chunked_transfer_encoding off;
            proxy_buffering off;
            proxy_cache off;
            proxy_set_header X-Forwarded-For $remote_addr;
            proxy_set_header X-Forwarded-Proto $scheme;
        }
    }
}
  • 配置完成后重启nginx,然后 ping 自己的域名 检查代理是否正常

三、代理域名用途

  1. 配置完成域名代理后,所有与OpenAI ChatPT交互的地方从此不再需要魔法
  2. 例如:LangChain模型训练、ChatGPT服务接入等等

到了这里,关于Nginx实现ChatGPT API代理的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • nginx反向代理proxy_set_header说明

    用途 设定被代理服务器接收到的header信息 允许重新定义或添加字段传递给代理服务器的请求头 值可以包含文本、变量和它们的组合 没有定义时会继承之前定义的值 语法: field:变量名       value:变量值 默认值(只有两个字段被重定义):   变量$host、$http_host、$proxy_host区

    2024年02月16日
    浏览(34)
  • nginx绑定tomcat与tomcat联合使用的配置(nginx反向代理tomcat的配置说明)

    nginx反向代理tomcat通信配置 (内容来自网上,注解部分才是原创)   切记: url的意思就是 unifed resource location  统一资源定位   其中location就是定位的意思 所以上文中的location就有 对应匹配的 url 标识的资源的相关配置之意 本文目的仅仅供学习交流,无任何商业目的,主要

    2024年02月07日
    浏览(37)
  • chatgpt API接口中文说明介绍(二)

    提示:如果你认为本文对你有帮助,请点一下关注,后面会有更多人工智能方面的文章。 如果有问题可以联系我**:https://gitee.com/xiaoyuren/gpt3 上一篇介绍了chatgpt的 接口和使用方法。其中用到了2个参数 model和messages,实际上官方提供 的参数不止这2个,本文介绍一下其他的参数

    2024年02月06日
    浏览(26)
  • 使用nginx简单搭建一个ChatGPT代理服务器

    作者:ChenZhen 本人不常看CSDN消息,有问题通过下面的方式联系: 邮箱:1583296383@qq.com vx: ChenZhen_7 我的个人博客地址:https://www.chenzhen.space/🌐 版权:本文为博主的原创文章,本文版权归作者所有,转载请附上原文出处链接及本声明。📝 如果对你有帮助,请给一个小小的sta

    2024年02月06日
    浏览(38)
  • nginx配置,接收到的请求在代理转发时不包含 /api 路径

    在以上配置中,使用了 rewrite 指令来重写请求路径。它将匹配以 /api 开头的请求路径,并将匹配部分去除,传递给 proxy_pass 指令进行代理转发。这样,当请求到达 Nginx 时,将去除 /api 路径后,转发到后端代理服务器的相应路径。 例如,当访问 http://your_domain_or_ip:8080/api/some/

    2024年02月13日
    浏览(28)
  • Nginx反向代理的一个算法API的接口调用超时:504,GateWay Timeout,怎么破?

    服务端由第三方部署了一个基于 darknet (一个较为轻型的完全基于C与CUDA的开源深度学习框架)的识别算法服务,通过 Flask 的 Web 服务对业务服务暴露 API 接口。作为测试,一开始是直接通过 python3 app.py 的命令行启动的服务,然后在 Nginx 处通过反向代理过来的。 可是在通过前

    2023年04月08日
    浏览(53)
  • nginx反向代理minio后部分api无权限或s3fs不能挂载的解决办法

    这两天在测试minio,发现NGINX反向代理以后有一些api无权访问,s3fs也挂载不了或者是挂载上以后不能打开文件,最后在github的一个已经关闭的issue里找到了办法#17092,具体办法就是关闭缓存,建议整个issue看完,我用了第一个办法添加 发现没有办法下载打开文件就改成了  顺利

    2024年02月10日
    浏览(40)
  • 【nginx实战】nginx正向代理、反向代理、由反向代理实现的负载均衡、故障转移详解

    本文将要讨论以下内容 正向代理与反向代理的基本概念 Nginx正向代理服务的配置指令、Nginx反向代理服务的配置指令 Nginx反向代理服务器的应用——负载均衡、故障转移 案例分析   正向代理的概念 局域网内的机器借助代理服务访问局域网外的网站,此代理服务器提供的服务

    2024年01月24日
    浏览(43)
  • Nginx(一)介绍Nginx、正向代理和实现反向代理的两个实例

    中国Nginx官网:https://www.nginx-cn.net/ GitHub地址:https://github.com/nginxinc/ 客户端想访问tomcat服务器,只需要访问ww.baidu.com。对真实的服务器IP是隐藏的 1、反向代理实例一(反向代理,访问www.123.com) 步骤一:修改主机映射“C:WindowsSystem32driversetchosts” 步骤二:修改Nginx中的配

    2024年02月08日
    浏览(42)
  • 【Nginx三】——Nginx实现反向代理

    【Nginx一】——Nginx介绍(正向代理 反向代理 负载均衡 动静分离) 【Nginx二】——Nginx常用命令 配置文件 Nginx如何处理请求 本篇博客主要介绍Nginx如何实现反向代理,会进行介绍什么是反向代理,以及进行实例实现反向代理。 代理服务器来接收网络上请求,然后将请求转发

    2024年02月05日
    浏览(55)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包