改造 dify 项目适配自建的 OpenAI API 服务

这篇具有很好参考价值的文章主要介绍了改造 dify 项目适配自建的 OpenAI API 服务。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

0. 背景

项目 https://github.com/langgenius/dify.git 的 OpenAI 配置项目里,现在(20230802)还支持输入 api_base 项目,所以修改了一下代码适配自建的 OpenAI API 服务。

1. 修改默认的 api_base 地址

整个工程检索 http://api.openai.com,将它置换为自建的 OpenAI API 服务的地址,例如 http://127.0.0.1:8000/v1

整个工程检索 OpenAIEmbeddings,添加自建的 OpenAI API 服务的地址,例如,

import os
(略)
        embeddings = CacheEmbedding(OpenAIEmbeddings(
            openai_api_base=os.environ.get("OPENAI_API_BASE", "http://127.0.0.1:8000/v1"),
            **model_credentials
        ))

2. 修改 openai_provider.py

改造 dify 项目适配自建的 OpenAI API 服务,LINUX,dify

3. 重新构建 docker 镜像

cd api
docker buildx build -t <your_dockerhub_username>/dify-api:0.3.12 .

4. 修改 docker-compose.yaml

将两处 image: langgenius/dify-api:0.3.12 修改为 <your_dockerhub_username>/dify-api:0.3.12
在 worker 和 api 中添加环境变量 OPENAI_API_BASE: "http://127.0.0.1:8000/v1"

5. 启动项目

cd docker
docker compose up -d

完结!文章来源地址https://www.toymoban.com/news/detail-624861.html

到了这里,关于改造 dify 项目适配自建的 OpenAI API 服务的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 分享一个由rust实现的openai api服务端+Android客户端

    官方网页存在经常中途断开的问题. 经常使用不同 ip 登录 openai 帐号可能会导致封号. 使用开源项目 chatgpt-web 搭建过一个网页端,目前已被DNS污染, 体验 GitHub Copilot . 已经使用了 rust 语言一段时间,打算用它写个服务端练手. 服务端 技术栈 rust Rust是一种系统级编程语言,由Mozil

    2024年02月13日
    浏览(34)
  • Android技术栈(二)组件化改造,目前最稳定和高效的UI适配方案

    .build(PR.navi.navi) .navigation(); 而 Activity 则不需要,它会立即显示 ARouter.getInstance() .build(PR.navi.navi) //还可以设置参数,ARouter会帮你存在Bundle中 .withString(“pathId”,UUID.randomUUID().toString()) //Activity 或 Context .navigation(this); navi 模块是典型的业务逻辑模块,这里你可导入一些只有这个模块才

    2024年03月24日
    浏览(35)
  • 宝塔反代教程502 Bad Gateway问题解决,实现服务器访问openai api

    宝塔反代教程502 Bad Gateway问题解决,实现服务器访问openai api 此方法最简单快捷,没有复杂步骤,不容易出错,即最简单,零代码、零部署的方法。 一台 海外 VPS OpenAI官方的3.5或者4.0 API_KEY ChatGPT 网站系统源码 目前使用的ChatGPT网站系统可以看下面这篇文章,进行下载部署使用

    2024年01月16日
    浏览(57)
  • 宝塔反代教程,ChatGPT网站系统实现国内服务器访问openai官网接口(使用宝塔反代openai官方的API接口教程)

    近期有网友问宝塔如何设置反向代理,小编这里介绍一种简单的操作方法,就是使用宝塔官方软件面板自带的反向代理功能来实现。首先您要先安装宝塔面板,当Nginx或LNMP环境配置完成后,便可开始设置反向代理了,下面来看下操作步骤。 此方法最简单快捷,没有复杂步骤,

    2024年02月06日
    浏览(40)
  • 宝塔反代教程+国内服务器访问openai api接口+502 Bad Gateway问题解决!

    宝塔反代教程+国内服务器访问openai api接口+502 Bad Gateway问题解决! 此方法最简单快捷,没有复杂步骤,不容易出错,即最简单,零代码、零部署的方法。 一台海外VPS OpenAI官方的API_KEY ChatGPT网站系统源码 ChatGPT网站系统源码,可以看另一篇文章介绍,进行下载部署使用: 《Ch

    2024年02月09日
    浏览(43)
  • ruoyi-nbcio-plus基于vue3的flowable为了适配文件上传改造VForm3的代码记录

    更多ruoyi-nbcio功能请看演示系统 gitee源代码地址 前后端代码: https://gitee.com/nbacheng/ruoyi-nbcio 演示地址:RuoYi-Nbcio后台管理系统 http://218.75.87.38:9666/ 更多nbcio-boot功能请看演示系统  gitee源代码地址 后端代码: https://gitee.com/nbacheng/nbcio-boot 前端代码:https://gitee.com/nbacheng/nbcio-vu

    2024年04月28日
    浏览(19)
  • #LLMOps##AIGC# Dify_构建本地知识库问答应用-生成Al应用的创新引擎 用于构建助手API和GPT的开源开发平台

    github: https://github.com/langgenius/dify/blob/main/README_CN.md 介绍文档:https://docs.dify.ai/getting-started/readme Dify 笔记 Dify 是什么? 开源的大语言模型(LLM)应用开发平台 融合了后端即服务(Backend as Service)和 LLMOps 的理念 使开发者可以快速搭建生产级的生成式 AI 应用 为什么使用 Dify?

    2024年01月16日
    浏览(33)
  • C# - 自建 SDK 的 API 文档

    用户在使用类库时,通常需要通过 VS 的 Intellisense 或 F12 反编译查看 API 的注释,借助这些注释来了解如何使用 API。在 C# 源文件中,可以通过编写由三斜杠表示的特殊注释字段,在代码中建立类库所需的 API 文档。注释字段包含用于描述其下方代码块的 XML 元素,XML 元素为

    2024年02月08日
    浏览(28)
  • 如何开通 API 服务并授予项目 API 服务的调用权限

    涂鸦 IoT 开发平台开放多种业务 API 服务,全面覆盖全屋智能管理、行业通用设备用户管理、垂直品类开放能力、各类数据服务等业务需求。 本文将为大家介绍如何开通 API 服务并授予项目 API 服务的调用权限。 开发者调用的部分  云服务 API  会获取用户个人隐私数据,因此

    2024年01月15日
    浏览(22)
  • openai自定义API操作 API (openai.custom)

    OpenAI 提供了一个自定义 API,允许开发者通过编程方式与 OpenAI 的 AI 模型进行交互。使用这个 API,你可以执行各种任务,例如文本生成、推理和翻译等。 以下是使用 OpenAI 自定义 API 的基本步骤: 创建 API 密钥 :首先,你需要在 OpenAI 的网站上创建一个 API 密钥。这将允许你使

    2024年02月02日
    浏览(29)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包