0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

虹科分享 | 用Redis为LangChain定制AI代理——OpenGPTs

虹科技术 来源:虹科技术 作者:虹科技术 2024-01-18 10:39 次阅读

来源:艾特保IT 虹科分享 | 用Redis为LangChain定制AI代理——OpenGPTs

原文链接:https://mp.weixin.qq.com/s/U8vTgGJk87c0kdYmIWD8wQ

欢迎关注虹科,为您提供最新资讯!

#AI代理 #OpenAI #Redis

OpenAI最近推出了OpenAI GPTs——一个构建定制化AI代理的无代码“应用商店”,随后LangChain开发了类似的开源工具OpenGPTs。OpenGPTs是一款低代码的开源框架,专用于构建定制化的人工智能代理。因为Redis具有高速和稳定性的优点,所以LangChain选择了Redis来作为OpenGPTs的默认向量数据库。

文章速览:

-OpenGPTs简介

-Redis在OpenGPTs中的作用

-在本地使用OpenGPTs

-在云端使用OpenGPTs

-Redis与LangChain赋能创新

一、OpenGPTs简介

通过几个配置步骤,我们可以用OpenGPTs构建一个精通Redis的机器人,名为“RedisGuru”。

以下是我们选择的LLM、系统消息和工具的示例,包括DuckDuckGo搜索、维基百科搜索,以及通过Kay.ai访问的公共新闻稿。image.png

配置并部署RedisGuru后,可以测试代理如何运行:image.png

此外,我们还可以查询有关Redis数据结构的问题。可以看到,RedisGuru记住了我的名字:image.png

我们构建的这个RedisGuru代理只是一个应用示例。你也可以构建各类应用,比如电子邮件文案编辑器、智能研究助理、代码审查员等。

二、Redis在OpenGPTs中的作用

在这个OpenGPTs演示的背后,Redis提供了一个强大且高性能的数据层,是 OpenGPTs 技术栈不可或缺的一部分。

Redis可以持久化用户聊天会话(线程)、代理配置和嵌入式文档块,并用于向量数据库检索。

01 用户聊天会话

为了在对话中维持“状态”,Redis为OpenGPTs提供了用户与AI代理间的持久聊天线程。这些聊天会话也被输入到LLM中,以提供当前对话状态的上下文信息

02 代理配置

为了支持多租户代理架构,Redis为OpenGPTs提供了一个远程的、低延迟的存储层。当应用程序启动时,它从Redis读取指定的代理设置,然后开始处理请求。

03 向量数据库用于RAG****

为了让对话基于实际情况,OpenGPTs允许我们上传“知识”源,以便LLM将其与生成的答案结合。通过一种称为检索增强生成(RAG)的过程,OpenGPTs将上传的文档存储在Redis中,并提供实时向量搜索,以检索与LLM相关的上下文。

这些功能是Redis平台的一部分,通过我们的LangChain + Redis集成融入到应用程序中。

Redis与LangChain的OpenGPTs集成带来了更高的灵活性、可扩展性以及实时处理和搜索能力。处理多样化数据结构的能力是Redis成为OpenGPTs记忆功能的首选解决方案。

三、在本地使用OpenGPTs

如果想亲自体验OpenGPTs,你可以在项目的README文件中找到更详细的指南。以下是一个快速概述:

1、 安装后端依赖: 克隆项目仓库,然后导航到后端目录并安装必要的Python依赖项。

-cd backend

-pip install -r requirements.txt

2、连接Redis和OpenAI: OpenGPTs使用Redis作为LLM的记忆库,使用OpenAI进行LLM的生成和嵌入。设置环境变量REDIS_URL和OPENAI_API_KEY,以连接到您的Redis实例和OpenAI账户。

-export OPENAI_API_KEY=your-openai-api-key

-export REDIS_URL=redis://your-redis-url

3、启动后端服务器: 在本地机器上运行LangChain服务器,提供应用程序服务。

-langchain serve --port=8100

4、 启动前端: 在前端目录中,使用yarn启动开发服务器。

-cd frontend

-yarn

-yarn dev

5、在浏览器中打开http://localhost:5173/,与您的本地OpenGPTs部署进行交互。

四、在云端使用OpenGPTs

如果希望在没有本地设置的情况下使用OpenGPTs,可以尝试在谷歌云上部署。另外,你还可以访问由LangChain、LangServe和Redis支持的托管预览部署。这种部署展示了OpenGPTs的可定制性和易用性。

五、Redis与LangChain赋能创新

Redis企业版作为一款企业级的低延迟向量数据库,在支持生成性AI项目方面具有独特优势。其不仅提供向量搜索,还提供多功能数据结构,能有效满足LLMs的应用状态需求。这个强大的平台提供了优异的可扩展性和性能,Redis借此成为生成式AI领域的重要工具。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    32007

    浏览量

    270844
  • Redis
    +关注

    关注

    0

    文章

    379

    浏览量

    10989
  • OpenAI
    +关注

    关注

    9

    文章

    1181

    浏览量

    6811
收藏 人收藏

    相关推荐

    直播回放 | IO-Link技术概述与IO-Link OEM

    「一站式通讯解决方案」系列直播第1期圆满落幕!本期主题为「IO-Link技术概述与IO-LinkOEM」感谢各位朋友的热情参与!本期直播中
    的头像 发表于 02-19 17:34 265次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>直播回放 | IO-Link技术概述与<b class='flag-5'>虹</b><b class='flag-5'>科</b>IO-Link OEM

    Gupshup推出AI代理库,加速企业AI应用

    全球领先的对话式AI平台Gupshup近日宣布了一项重要创新——推出AI代理库(AI Agent Library)。这是一套由15个预构建且高度可
    的头像 发表于 02-18 10:20 113次阅读

    NVIDIA与合作伙伴推出代理AI Blueprint

    开发者现在可以使用全新 NVIDIA AI Blueprint 构建和部署具备推理、规划和行动能力的定制AI 智能体。这些蓝图囊括了 NVIDIA NIM 微服务、NVIDIA NeMo、以及领先提供商的
    的头像 发表于 01-09 11:08 328次阅读

    AI视觉赋能雷鸟V3 AI拍摄眼镜发布

    近日,雷鸟创新正式发布全新一代AI拍摄眼镜——雷鸟V3。该产品搭载多项创新技术,包括融合AI视觉算法的猎鹰影像系统、通义独家定制大模型、高通骁龙AR1 Gen 1芯片平台以及
    的头像 发表于 01-08 10:58 465次阅读

    电子12月事件回顾

    2024年12月,及其姐妹公司与多家国际知名企业建立了正式的合作伙伴关系,同时通过一系列行业直播和培训课程,向广大观众展示了最新的技术趋势和应用案例。
    的头像 发表于 12-31 16:25 310次阅读

    培训 | 重磅来袭!波形分析课程全面上线!

    全新升级/技术提升/快速进阶&TG中心波形分析课程主办单位广州电子科技有限公司TechGear免拆诊断中心支持单位英国PicoTechnologyLtd.HongkePico你
    的头像 发表于 12-07 01:04 234次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>培训 | 重磅来袭!波形分析课程全面上线!

    代理AI如何运作

    代理AI 使用复杂的推理和迭代规划来自主解决复杂的多步骤问题。
    的头像 发表于 11-09 11:45 431次阅读
    <b class='flag-5'>代理</b>式<b class='flag-5'>AI</b>如何运作

    应用 为什么PCAN方案能成为石油工程通讯的首选?

    在石油工程领域,实时监控钻井参数对于确保作业安全和提高效率至关重要。提供的PCAN解决方案凭借其高可靠性和便捷的安装维护特性,石油钻井行业带来了显著的革新。
    的头像 发表于 11-08 16:48 307次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>应用 为什么<b class='flag-5'>虹</b><b class='flag-5'>科</b>PCAN方案能成为石油工程通讯的首选?

    微软Copilot Studio将支持企业创建自主AI代理

    近日,微软宣布了一项重要进展:下个月,企业将在Copilot Studio中拥有创建自主AI代理的能力。这一消息标志着微软在AI技术领域的又一次重要突破,将为企业带来前所未有的智能化升级。 微软透露
    的头像 发表于 10-23 11:44 405次阅读

    新合作启航,服务如初!与HMS及PEAK合作升级

    ”)大家庭的一员。作为PEAK在中国区的唯一官方指定代理商,这一战略性的并购不仅标志着PEAK迈入了一个崭新的发展阶段,更为开启了全新的发展机遇与篇章。联袂起航,共创
    的头像 发表于 10-12 08:00 480次阅读
    新合作启航,服务如初!<b class='flag-5'>虹</b><b class='flag-5'>科</b>与HMS及PEAK合作升级

    LangChain框架关键组件的使用方法

    LangChain是一个强大的框架,旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口,可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。通过
    的头像 发表于 08-30 16:55 712次阅读
    <b class='flag-5'>LangChain</b>框架关键组件的使用方法

    方案 领航智能交通革新:PEAK智行定位车控系统Demo版亮相

    导读: 在智能汽车技术发展浪潮中,车辆控制系统的智能化、网络化已成为行业发展的必然趋势。PEAK智行定位车控系统,集成了尖端科技,能够实现车辆全方位监控与控制的先进系统。从实时GPS定位到CAN
    的头像 发表于 08-27 09:28 350次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>方案  领航智能交通革新:<b class='flag-5'>虹</b><b class='flag-5'>科</b>PEAK智行定位车控系统Demo版亮相

    应用 当CANoe不是唯一选择:发现PCAN-Explorer 6

    的进步和市场需求的多样化,单一的解决方案已无法满足所有用户的需求。正是在这样的背景下,PCAN-Explorer 6软件以其独特的模块化设计和灵活的功能扩展,CAN总线分析领域带来了新的选择和可能性。 本文将深入探讨
    的头像 发表于 08-16 13:08 689次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>应用 当CANoe不是唯一选择:发现<b class='flag-5'>虹</b><b class='flag-5'>科</b>PCAN-Explorer 6

    案例|为什么PCAN MicroMod FD是数模信号转换的首选方案?

    精确的信号采集和转换是确保生产效率和质量的关键。PCAN MicroMod FD系列模块,以其卓越的数模信号转换能力,工程师们提供了一个强大的工具。本文将深入探讨如何通过
    的头像 发表于 06-11 15:36 464次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>案例|为什么PCAN MicroMod FD是数模信号转换的首选方案?

    新品 | E-Val Pro Plus有线验证解决方案

    有线验证解决方案E-ValProPlus我们很高兴地宣布,我们将推出全新的E-Val
    的头像 发表于 04-19 08:04 436次阅读
    <b class='flag-5'>虹</b><b class='flag-5'>科</b>新品 | E-Val Pro Plus有线验证解决方案