虹科分享 | 用Redis为LangChain定制AI代理——OpenGPTs

这篇具有很好参考价值的文章主要介绍了虹科分享 | 用Redis为LangChain定制AI代理——OpenGPTs。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

文章速览:

  1. OpenGPTs简介
  2. Redis在OpenGPTs中的作用
  3. 在本地使用OpenGPTs
  4. 在云端使用OpenGPTs
  5. Redis与LangChain赋能创新

OpenAI最近推出了OpenAI GPTs——一个构建定制化AI代理的无代码“应用商店”,随后LangChain开发了类似的开源工具OpenGPTs。OpenGPTs是一款低代码的开源框架,专用于构建定制化的人工智能代理。因为Redis具有高速和稳定性的优点,所以LangChain选择了Redis来作为OpenGPTs的默认向量数据库。

如何利用OpenGPTs和Redis构建一个智能AI代理?

LangChain创始人Harrison Chase表示:“我们在OpenGPTs中使用Redis存储所有长期内容,包括将其用作用于检索的向量存储和用于存储消息与代理配置的数据库。Redis将所有这些功能集成在一个数据库中,这非常有吸引力。”

一、OpenGPTs简介

通过几个配置步骤,我们可以用OpenGPTs构建一个精通Redis的机器人,名为“RedisGuru”。

以下是我们选择的LLM、系统消息和工具的示例,包括DuckDuckGo搜索、维基百科搜索,以及通过Kay.ai访问的公共新闻稿。

langchain redis,数据存储,redis数据库,实时数据库,Redis,LangChain,生成式AI,人工智能,高性能缓存,持久性存储

配置并部署RedisGuru后,可以测试代理如何运行:

langchain redis,数据存储,redis数据库,实时数据库,Redis,LangChain,生成式AI,人工智能,高性能缓存,持久性存储

此外,我们还可以查询有关Redis数据结构的问题。可以看到,RedisGuru记住了我的名字:

langchain redis,数据存储,redis数据库,实时数据库,Redis,LangChain,生成式AI,人工智能,高性能缓存,持久性存储

我们构建的这个RedisGuru代理只是一个应用示例。你也可以构建各类应用,比如电子邮件文案编辑器、智能研究助理、代码审查员等。

二、Redis在OpenGPTs中的作用

在这个OpenGPTs演示的背后,Redis提供了一个强大且高性能的数据层,是 OpenGPTs 技术栈不可或缺的一部分。

Redis可以持久化用户聊天会话(线程)、代理配置和嵌入式文档块,并用于向量数据库检索。

  • 用户聊天会话:为了在对话中维持“状态”,Redis为OpenGPTs提供了用户与AI代理间的持久聊天线程。这些聊天会话也被输入到LLM中,以提供当前对话状态的上下文信息。
  • 代理配置:为了支持多租户代理架构,Redis为OpenGPTs提供了一个远程的、低延迟的存储层。当应用程序启动时,它从Redis读取指定的代理设置,然后开始处理请求。
  • 向量数据库用于RAG:为了让对话基于实际情况,OpenGPTs允许我们上传“知识”源,以便LLM将其与生成的答案结合。通过一种称为检索增强生成(RAG)的过程,OpenGPTs将上传的文档存储在Redis中,并提供实时向量搜索,以检索与LLM相关的上下文。

这些功能是Redis平台的一部分,通过我们的LangChain + Redis集成融入到应用程序中。

Redis与LangChain的OpenGPTs集成带来了更高的灵活性、可扩展性以及实时处理和搜索能力。处理多样化数据结构的能力是Redis成为OpenGPTs记忆功能的首选解决方案。

三、在本地使用OpenGPTs

如果想亲自体验OpenGPTs,你可以在项目的README文件中找到更详细的指南。以下是一个快速概述:

1、安装后端依赖:克隆项目仓库,然后导航到后端目录并安装必要的Python依赖项。

cd backend

pip install -r requirements.txt

2、连接Redis和OpenAI:OpenGPTs使用Redis作为LLM的记忆库,使用OpenAI进行LLM的生成和嵌入。设置环境变量REDIS_URL和OPENAI_API_KEY,以连接到您的Redis实例和OpenAI账户。

export OPENAI_API_KEY=your-openai-api-key

export REDIS_URL=redis://your-redis-url

3、启动后端服务器:在本地机器上运行LangChain服务器,提供应用程序服务。

langchain serve --port=8100

4、启动前端:在前端目录中,使用yarn启动开发服务器。

cd frontend

yarn

yarn dev

5、在浏览器中打开http://localhost:5173/,与您的本地OpenGPTs部署进行交互。

四、在云端使用OpenGPTs

如果希望在没有本地设置的情况下使用OpenGPTs,可以尝试在谷歌云上部署。另外,你还可以访问由LangChain、LangServe和Redis支持的托管预览部署。这种部署展示了OpenGPTs的可定制性和易用性。

五、RedisLangChain赋能创新

Redis企业版作为一款企业级的低延迟向量数据库,在支持生成性AI项目方面具有独特优势。其不仅提供向量搜索,还提供多功能数据结构,能有效满足LLMs的应用状态需求。这个强大的平台提供了优异的可扩展性和性能,Redis借此成为生成式AI领域的重要工具。文章来源地址https://www.toymoban.com/news/detail-811378.html

到了这里,关于虹科分享 | 用Redis为LangChain定制AI代理——OpenGPTs的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【虹科分享】Redis企业版给DevOps团队带来了哪些价值?

    内存太贵?现代化转型太难?还在花费精力维护数据库基础设施?Redis Enterprise 在开源版的基础上增加了一整套包含管理、自动化、弹性以及安全等方面的功能,使其更适合企业级的应用场景。那么, Redis Enterprise 如何能成为为您节约成本的选择?   文章速览: 发现 1:为应

    2024年02月06日
    浏览(32)
  • 虹科分享丨AR与AI融合加速,医疗护理更便捷!

    来源:虹科数字化与AR 虹科分享丨AR与AI融合加速,医疗护理更便捷! 原文链接:https://mp.weixin.qq.com/s/Fi0wNfk_TDXRo_1-6cSRNQ 欢迎关注虹科,为您提供最新资讯! #AR眼镜 #医疗护理 根据Reports and Data的AR市场发展报告,到2026年,预计医疗保健市场中的AR/VR行业规模将达到70.5亿美元。

    2024年01月25日
    浏览(31)
  • 基于GPT-4和LangChain构建云端定制化PDF知识库AI聊天机器人

    参考: GitHub - mayooear/gpt4-pdf-chatbot-langchain: GPT4 LangChain Chatbot for large PDF docs 使用新的GPT-4 api为多个大型PDF文件构建chatGPT聊天机器人。 使用的技术栈包括LangChain, Pinecone, Typescript, Openai和Next.js。LangChain是一个框架,可以更容易地构建可扩展的AI/LLM大语言模型应用程序和聊天机器

    2024年02月11日
    浏览(34)
  • 基于Llama2和LangChain构建本地化定制化知识库AI聊天机器人

    参考: 本项目 https://github.com/PromtEngineer/localGPT 模型 https://huggingface.co/TheBloke/Llama-2-7B-Chat-GGML 云端知识库项目:基于GPT-4和LangChain构建云端定制化PDF知识库AI聊天机器人_Entropy-Go的博客-CSDN博客          相比OpenAI的LLM ChatGPT模型必须网络连接并通过API key云端调用模型,担心

    2024年02月08日
    浏览(40)
  • 【虹科分享】虹科ATEasy软件,您的测试执行和开发专家!

    测试和执行专家 虹科ATEasy是功能测试,自动测试系统,数据采集,过程控制和仪表系统的测试执行和快速应用开发框架。 虹科ATEasy提供开发,部署和维护软件组件的所有必要工具,包括仪器驱动程序,测试程序,用户界面以及完整和可定制的测试执行管理方案;可用于数据

    2024年02月06日
    浏览(27)
  • 虹科分享|您的遗留系统的安全性如何?

    自2023年1月10日起,Windows 7、Windows 8、Windows 8.1及其衍生产品Windows Embedded以及Windows Server 2008 R2将不再收到微软提供的补丁程序。数以百万计的设备现在将成为“遗留”设备,并产生一系列新的遗留安全风险。 Windows 7支持结束,8/8.1被切断 微软的2023年1月发行说明包括了针对微

    2024年02月05日
    浏览(78)
  • 【虹科分享】使用Allegro网络万用表进行网络故障排查

    文章速览: Allegro网络万用表在公用事业公司的应用领域 Allegro网络万用表 VS. Wireshark Allegro 200和Allegro 500:作为标准配置   传统企业成为互联网服务提供商,如何利用数字工具实现现代化转型?本期文章,我们分享一家国外的公共事业公司的现代化转型故事。 Stadtwerke Unna G

    2024年02月04日
    浏览(37)
  • 虹科分享丨一个高尔夫球用品制造商怎样处理数据?

    来源:艾特保IT 虹科分享丨一个高尔夫球用品制造商怎样处理数据? 原文链接:https://mp.weixin.qq.com/s/jjVu-y_ACxHujaWDGj-KUA 欢迎关注虹科,为您提供最新资讯! #数据分析 #数据洞察 #数据处理 文章速览 -快速整合企业数据 -团队全员实现数据洞察 -随时随地提供数据 客户背景 行业

    2024年01月25日
    浏览(26)
  • 虹科分享 | 如何保护便携式存储设备的安全?| 数据安全

    在数字化的时代,便携式存储设备成为了连接我们与数字世界的桥梁。无论是个人用户、企业还是工业环境下,都离不开这些小巧而强大的设备。 1、文件传输与共享 便携式存储设备如USB闪存驱动器和移动硬盘提供了简便的文件传输和共享解决方案。无论是在家庭中分享照片

    2024年02月11日
    浏览(28)
  • 【虹科干货】Redis 开发者需要了解的缓存驱逐策略

    在你 搭建并配置了一个 Redis数据库 之后 , Redis成功地 提升了应用程序性能 。然而 这里有一个潜在问题, 随着缓存数据的快速增加和内存占用率的逐渐上升, 你 很快会发现 Redis缓存 容量即将达到硬件存储容量上限 。或许 你曾 听说 用 过缓存驱逐 来解决这个问题 ,但 究

    2024年02月08日
    浏览(32)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包