【大模型知识库】(2):开源大模型+知识库方案,docker-compose部署本地知识库和大模型,毕昇+fastchat的ChatGLM3,BGE-zh模型,通过拖拽/配置方式实现大模型编程

这篇具有很好参考价值的文章主要介绍了【大模型知识库】(2):开源大模型+知识库方案,docker-compose部署本地知识库和大模型,毕昇+fastchat的ChatGLM3,BGE-zh模型,通过拖拽/配置方式实现大模型编程。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1,关于bisheng 项目

https://www.bilibili.com/video/BV1xi4y1e7MD/

【大模型知识库】(2):开源大模型+知识库方案,docker-compose部署本地知识库和大模型,毕昇+fastchat的ChatGLM3,BGE-zh模型

2,关于bisheng 项目

Bisheng是一款领先的开源大模型应用开发平台,赋能和加速大模型应用开发落地,帮助用户以最佳体验进入下一代应用开发模式。

“毕昇”是活字印刷术的发明人,活字印刷术为人类知识的传递起到了巨大的推动作用。我们希望“毕昇”同样能够为智能应用的广泛落地提供有力的支撑。欢迎大家一道参与。

Bisheng 基于 Apache 2.0 License 协议发布,于 2023 年 8 月底正式开源。

产品亮点
便捷:即使是业务人员,基于我们预置的应用模板,通过简单直观的表单填写方式快速搭建以大模型为核心的智能应用。
灵活:对大模型技术有了解的人员,我们紧跟最前沿大模型技术生态提供数百种开发组件,基于可视化且自由的流程编排能力,可开发出任意类型的大模型应用,而不仅是简单的提示词工程。
可靠与企业级:当前许多同类的开源项目仅适用于实验测试场景,缺少真正生产使用的企业级特性,包括:高并发下的高可用、应用运营及效果持续迭代优化、贴合真实业务场景的实用功能等,这些都是毕昇平台的差异化能力;另外,更直观的是,企业内的数据质量参差不齐,想要真正把所有数据利用起来,首先需要有完备的非结构化数据治理能力,而这是过去几年我们团队所积累的核心能力,在毕昇的demo环境中您可以通过相关组件直接接入这些能力,并且这些能力免费不限量使用。
产品应用
使用毕昇平台,我们可以搭建各类丰富的大模型应用:

分析报告生成
知识库问答
对话
要素提取

我们认为在企业真实场景中,“对话”仅是众多交互形式中的一种,未来我们还将新增流程自动化、搜索等更多应用形态的支持。

https://dataelem.feishu.cn/wiki/BSCcwKd4Yiot3IkOEC8cxGW7nPc

3,下载项目

git clone https://github.com/dataelement/bisheng
cd bisheng/docker
docker-compose up -d

或者使用我的镜像部署带 fastchat 版本的:

git clone https://gitee.com/fly-llm/bisheng-docker-compose


bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库

启动成功:

bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库

帐号:admin
密码:1234

如果要是出现这个错误:

bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库
需要重启下后端服务,没有连接上数据库造成的。

docker restart backend

然后就可以使用了:
bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库

3,然后启动chatglm3大模型

参考之前的文章:

https://blog.csdn.net/freewebsys/article/details/134631859

启动之后就可以进行配置了:

bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库

配置一个prompt :

你是一个翻译助手:

将用户输入的内容:
{input}

翻译成英文。

然后点击右下角编译,然后聊天:
bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库

还可以配置好 API 接口:

bisheng毕昇 目标成为最便捷、灵活且可靠与可控的企业级大模型应用开发平台。,chatgpt,大模型,docker,开源,docker,容器,大模型,知识库

4,总结

通过拖拽的方式可以实现模型的配置编程,可以快速的开发应用。
或者提供对外接口,非常的方便。
这个只是演示了配置chatglm3 接口的部分。
持续研究中。文章来源地址https://www.toymoban.com/news/detail-765899.html

到了这里,关于【大模型知识库】(2):开源大模型+知识库方案,docker-compose部署本地知识库和大模型,毕昇+fastchat的ChatGLM3,BGE-zh模型,通过拖拽/配置方式实现大模型编程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 开源知识库平台Raneto

    什么是 Raneto ? Raneto 是一个开源知识库平台,它使用静态 Markdown 文件来支持您的知识库。 官方提供了 doc demo 网站,即是帮助文档,也是个 demo ,地址:https://docs.raneto.com 项目使用 config.js 做为设置文件,该文件的源码地址:https://raw.githubusercontent.com/ryanlelek/Raneto/master/confi

    2024年02月09日
    浏览(45)
  • 智能AI知识库,增强AI知识的开源项目

    FastWiki是一个高性能、基于最新技术栈的知识库系统,旨在为大规模信息检索和智能搜索提供解决方案。它采用微软Semantic Kernel进行深度学习和自然语言处理,在后端使用 MasaFramework ,前端采用 MasaBlazor 框架,实现了一个高效、易用、可扩展的智能向量搜索平台。其目标是帮

    2024年03月09日
    浏览(59)
  • wiki.js一个开源知识库系统

    wiki.js是一个开源Wiki应用程序,官网介绍为: A modern, lightweight and powerful wiki app built on NodeJS 访问Github:github 访问Wike:js.wiki 开源知识库平台,和语雀有一样的功能,独立部署; wiki支持权限管理、用户管理,可使用markdown格式编辑; wiki的部署推荐使用postgres9.5以上版本作为存

    2024年02月04日
    浏览(52)
  • LangChain-Chatchat 开源知识库来了

    LangChain-Chatchat 是基于 ChatGLM 等大语言模型与 LangChain 等应用框架实现,开源、可离线部署的 RAG 检索增强生成大模型知识库项目。最新版本为 v0.2.10,目前已收获 26.7k Stars,非常不错的一个开源知识库项目。 项目地址:https://github.com/chatchat-space/Langchain-Chatchat 顾名思义,LangC

    2024年04月17日
    浏览(48)
  • 【大模型知识库】(1):系统架构设计思考/调研。开源项目llm-knowledge-system,部署mysql,seilisearch,milvus,fastchat的ChatGLM3,BGE-zh

    https://www.bilibili.com/video/BV1N94y1n7UF/ 【大模型知识库】(1):设计开源项目,docker部署mysql,seilisearch,milvus,fastchat的ChatGLM3,BGE-zh模型 项目名称 llm-knowledge-system 大模型知识库系统 项目代码在,逐步开发设计中。 https://gitee.com/fly-llm/llm-knowledge-system 开发语言使用golang进行开发

    2024年02月02日
    浏览(49)
  • 开源知识库软件xwiki在Windows下的安装

    xwiki是java语言开发的开源知识库 开源知识库软件-xwiki在windows下的安装:基本参考这个安装即可。 XWiKi 部分汉化 1.1、Windows版本及系统配置 Windows10专业版,32GB内存 1.2、JDK11安装 1、xwiki15版本要求至少JDK11。 2、到oracle官网系在JDK11安装。 3、Java11安装以后在Windows的环境变量里配

    2024年02月04日
    浏览(41)
  • 大语言模型也是知识库:基于知识的对话大模型综述

    ©PaperWeekly 原创 · 作者 | 缥缈孤鸿影 引言 ChatGPT 的横空出世,在整个自然语言处理乃至人工智能领域均掀起波澜。不同于普通的闲聊式机器人和任务型智能客服仅局限于固定场景,ChatGPT 具有相当丰富的知识储备,对于很多冷门的知识,它亦能对答如流,堪称当代“百晓生”

    2024年02月09日
    浏览(55)
  • Quivr 基于GPT和开源LLMs构建本地知识库 (更新篇)

    自从大模型被炒的越来越火之后,似乎国内涌现出很多希望基于大模型构建本地知识库的需求,大概在5月底的时候,当时Quivr发布了第一个0.0.1版本,第一个版本仅仅只是使用LangChain技术结合OpenAI的GPT模型实现了一个最基本的架子,功能并不够完善,但可以研究研究思路,当

    2024年02月12日
    浏览(53)
  • Baklib:企业在线帮助文档/知识库解决方案

    Baklib是一款简单好用的知识管理软件,适用于企业搭建在线帮助文档/知识库。它提供了一个可视化的编辑器,让用户能够快速创建和修改文档。支持多种文件上传,包括:Word、PDF、PPT等,此外提供了权限管理功能,使得企业能够控制员工对知识库的访问权限,防止机密信息

    2024年02月05日
    浏览(45)
  • 使用Docker部署wikitten个人知识库

    Wikitten是一款开源Wiki知识管理系统,使用PHP开发,支持Markdown语法,无需数据库,自动生成树形目录,适合用来做个人Wiki知识库。 Wikitten 是一个小巧、快速的 PHP wiki。 Wikitten是存储您的笔记、代码片段、想法等的完美场所。 Wikitten是一款开源Wiki知识管理系统。 支持Markdown语

    2024年02月14日
    浏览(38)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包