背景
上半年国内的大模型还没遍地开花的时候,笔者花巨资购了两台云服务器及给OpenAI充了20$,给身边的亲友给做了一个可使用的ai-chat。
代码实现
起先笔者 基于openai的api接口文档 API Reference - OpenAI API ,自己编写web后台,找朋友做界面,做出了一个版本。
后来Gradio发布了 ChatInterface() 方法,事情又变得简单了许多,实现一个带界面的ai-chat应用,只需要如下代码:
运行代码后,通过浏览器访问,效果如下:
问题解决
权限控制
由于笔者提供的ai-chat服务,是一个公网可访问的界面。为了简单对访问权限进行控制,笔者参考官方提供的样例 Gradio Examples Docs 给lanuch()方法,传入auth参数,设置了访问应用所需的账户、密码。
api调用
其实这个小应用的完成,最大的难点是 为上述代码中的 OpenAI(base_url="https://xxxxx/v1/") 设置一个可调通的API地址。由于一些特殊原因,我们是无法直接调过 openai提供的服务的。
为解决这个问题,笔者是通过一台海外服务器上面的nginx实现的服务连接。这里就不展开讲了,nginx配置示例如下:文章来源:https://www.toymoban.com/news/detail-816208.html
文章来源地址https://www.toymoban.com/news/detail-816208.html
到了这里,关于用Gradio做一个ai-chat应用的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!