LangChain RAG&Agent实践:活动组件AI助手的实现

前言

介绍了如何利用 LangChain 开发 RAG(Retrieval-Augmented Generation)和 Agent 应用,并通过活动组件 AI 助手的实现案例,分析了 AIGC 在活动组件业务中的应用。

正文从这开始~~

概述

本文主要讲述采用 LangChain 开发 RAG 和 Agent 应用的思路,分析 AIGC 在组件活动业务中的应用案例。

背景

活动组件 AI 助手落地共经历了三个阶段:

  • 快速落地:采用 Dify 平台,验证 AI 与业务结合的想法,快速实现第一版;
  • 优化性能:采用 LangChain 开发具备 RAG 能力的第二版;
  • 丰富功能:开发具备 Agent 能力的第三版;
活动组件 AI 助手效果展示
RAG 实践效果

根据用户需求,推荐合适的活动组件,提供贴合需求的参考方案,降低组件选择成本

img

Agent 实践效果

实现 Agent 的计划、拆解需求、反思、推理、执行工具的能力。实现 AI 根据用户需求自行选择工具解决问题的效果

查询符合需求的活动信息:最近一个月最火的 3 个 “x 游戏” 活动

img

查询使用过组件的活动列表:最近有哪些活动在使用这个组件 xxxx

img

由于篇幅问题,仅展示部分功能。

活动组件 AI 助手落地实现
LangChain RAG 实践 :LCEL + 云原生数据仓库

LangChain Expression Language(LCEL)是一种声明式方法,可以轻松地将链组合在一起。LCEL 从设计之初就支持将原型投入生产,从最简单的 “prompt + LLM” 链到最复杂的链(我们已经看到有人在生产中成功运行了包含 100 多个步骤的 LCEL 链),无需修改代码。

img

img

再利用云原生数据仓库的向量检索能力,实现 RAG 检索服务。

RAG 核心流程:LLM 润色用户需求 -> 得到结构化数据进行知识库召回 -> 得到知识上下文,结合用户需求交给 LLM -> 得到推荐组件

img

1、数据转换细节:

1.1、自然语言 -> 结构化数据;

1.2、符合知识库数据结构,并具备可筛选的分类信息;

img

2、匹配知识库的细节:

2.1、知识库分类匹配;

2.2、召回 relevant_size 个 top k 结果;

2.3、召回数据根据 score 做二次筛选;

img

3、最终得到结构化业务数据:

img

4、业务系统解析结构化数据,向用户展现内容

LangChain Agent 实践

实现根据用户需求,自主规划任务和调用工具,查询所需的活动和组件数据。

img

核心流程:实现 Agent 的计划、拆解需求、反思、推理、执行工具的能力。实现 AI 根据用户需求自行选择工具解决问题的效果。

img

手撕 ReAct Agent:Agent run 核心流程:

img

通过以上流程实现了一个业务专属的 ReAct Agent。(LangChain 中也有自带的 Agent 能力,但是过于通用且简单,无法满足实际的复杂业务需求,因此我自己手撕了一个)

下面对比一下不同模型在实现 Agent 时的表现,理解能力较强的大模型比较适合实现复杂的 Agent。

打印了 ReAct Agent 规划过程:

[大模型 1] AI 反思过程。用户需求:最近一周访问量最高的 3 个 “x 游戏” 活动

第一轮思考:

img

第二轮思考:

img

大模型 1 总结:1. 耗时较长(50-70s)2. 准确性不够高,理解能力稍差(查询 pv 最少的 x 个活动,理解为按 pv 降序,应该是按 pv 升序)

[大模型 2] AI 反思过程。用户需求:最近一周访问量最高的 3 个 “x 游戏” 活动

img

大模型 2 总结:1. 性能高(10-20s)2. 准确性高,理解能力强;

对比不同大模型的规划过程可以看出 [大模型 2] 做了 tool_call 方面的微调,对调用工具的需求比较敏感,比较适合实现复杂 Agent 的需求。

最后把 RAG 和 Agent 的能力通过前置 AI 路由统一起来:实现 AI 服务统一入口。

img

总结

本文讲述了采用 LangChain 开发 RAG 和 Agent 应用的思路,分析 AIGC 在组件活动业务中的应用案例:活动组件 AI 助手。

  • 在应用案例分析中,展示了活动组件智能 AI 助手的推荐组件能力及查询历史活动和组件数据的能力。
  • 在落地过程中,分别讲述了 RAG 和 Agent 的核心实现思路。
  • 最后,对比了不同大模型在实际 Agent 规划中的效果,以及活动组件 AI 助手的整体流程架构图。

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

### Qwen AgentRAGLangChain 使用指南 #### Jupyter Notebook 部署与安全远程访问 为了有效利用Qwen代理进行开发工作,建议先在Linux服务器上部署Jupyter Notebook并配置安全远程访问环境[^1]。这不仅提供了交互式的编程体验,还便于管理和共享代码。 #### RAG 技术概述 复杂问答聊天机器人的核心在于检索增强生成(Retrieval-Augmented Generation, RAG)[^2]。这项技术允许应用基于特定文档集合来提供更精确的回答,减少了传统方法可能出现的信息偏差或错误。 #### LangChain 框架集成 LangChain框架简化了多个API接口之间的连接过程,特别是对于希望快速构建功能丰富的AI系统的开发者而言非常有用[^3]。通过简单的几步操作——获取必要的API密钥、完成软件包安装以及将所需工具挂载至代理服务端口,即可轻松启动项目。 #### 自我纠正机制 Self-RAG 引入自我反思能力(self-reflection),即所谓的Self-RAG体系结构,在提高模型准确性方面表现出色[^4]。它使得大型语言模型能够在检测到潜在误报时自动调整输出内容,进而提升整体性能表现。 ```python from langchain import LangChainAgent import qwen_agent # 初始化LangChain代理实例 agent = LangChainAgent(api_key="your_api_key") # 加载预训练好的Qwen模型作为内部组件 qa_model = qwen_agent.load_pretrained() # 将QA模块注册给代理对象 agent.register_tool(qa_model) def ask_question(query): response = agent.run(query) return response ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值