LangChain RAG&Agent实践:活动组件AI助手的实现

智谱AI发布国产最强大模型GLM4,理解评测与数学能力仅次于Gemini Ultra和GPT-4,编程能力超过Gemini-pro,还有对标GPTs商店的GLMs 这是在智谱AI开发者大会上推出的新一代基座大语言模型,GLM4相比较此前最大的特点是三个变化:性能全面提升、上下文长度更长、支持更强的多模态能力。GLM4(GLM4)详细信息 | 名称、简介、使用方法,开源情况,商用授权信息 | 数据学习 (DataLearner) 阅读详情

前言

介绍了如何利用 LangChain 开发 RAG(Retrieval-Augmented Generation)和 Agent 应用,并通过活动组件 AI 助手的实现案例,分析了 AIGC 在活动组件业务中的应用。今日前端早读课文章由 @AlwinXie 分享,公号:三七互娱技术团队授权。

正文从这开始~~

概述

本文主要讲述采用 LangChain 开发 RAG 和 Agent 应用的思路,分析 AIGC 在组件活动业务中的应用案例。

背景

活动组件 AI 助手落地共经历了三个阶段:

  • 快速落地:采用 Dify 平台,验证 AI 与业务结合的想法,快速实现第一版;
  • 优化性能:采用 LangChain 开发具备 RAG 能力的第二版;
  • 丰富功能:开发具备 Agent 能力的第三版;
活动组件 AI 助手效果展示
RAG 实践效果

根据用户需求,推荐合适的活动组件,提供贴合需求的参考方案,降低组件选择成本

img

Agent 实践效果

实现 Agent 的计划、拆解需求、反思、推理、执行工具的能力。实现 AI 根据用户需求自行选择工具解决问题的效果

查询符合需求的活动信息:最近一个月最火的 3 个 “x 游戏” 活动

img

查询使用过组件的活动列表:最近有哪些活动在使用这个组件 xxxx

img

由于篇幅问题,仅展示部分功能。

活动组件 AI 助手落地实现
LangChain RAG 实践 :LCEL + 云原生数据仓库

LangChain Expression Language(LCEL)是一种声明式方法,可以轻松地将链组合在一起。LCEL 从设计之初就支持将原型投入生产,从最简单的 “prompt + LLM” 链到最复杂的链(我们已经看到有人在生产中成功运行了包含 100 多个步骤的 LCEL 链),无需修改代码。

img

img

再利用云原生数据仓库的向量检索能力,实现 RAG 检索服务。

RAG 核心流程:LLM 润色用户需求 -> 得到结构化数据进行知识库召回 -> 得到知识上下文,结合用户需求交给 LLM -> 得到推荐组件

img

1、数据转换细节:

1.1、自然语言 -> 结构化数据;

1.2、符合知识库数据结构,并具备可筛选的分类信息;

img

2、匹配知识库的细节:

2.1、知识库分类匹配;

2.2、召回 relevant_size 个 top k 结果;

2.3、召回数据根据 score 做二次筛选;

img

3、最终得到结构化业务数据:

img

4、业务系统解析结构化数据,向用户展现内容

LangChain Agent 实践

实现根据用户需求,自主规划任务和调用工具,查询所需的活动和组件数据。

img

核心流程:实现 Agent 的计划、拆解需求、反思、推理、执行工具的能力。实现 AI 根据用户需求自行选择工具解决问题的效果。

img

手撕 ReAct Agent:Agent run 核心流程:

img

通过以上流程实现了一个业务专属的 ReAct Agent。(LangChain 中也有自带的 Agent 能力,但是过于通用且简单,无法满足实际的复杂业务需求,因此我自己手撕了一个)

下面对比一下不同模型在实现 Agent 时的表现,理解能力较强的大模型比较适合实现复杂的 Agent。

打印了 ReAct Agent 规划过程:

[大模型 1] AI 反思过程。用户需求:最近一周访问量最高的 3 个 “x 游戏” 活动

第一轮思考:

img

第二轮思考:

img

大模型 1 总结:1. 耗时较长(50-70s)2. 准确性不够高,理解能力稍差(查询 pv 最少的 x 个活动,理解为按 pv 降序,应该是按 pv 升序)

[大模型 2] AI 反思过程。用户需求:最近一周访问量最高的 3 个 “x 游戏” 活动

img

大模型 2 总结:1. 性能高(10-20s)2. 准确性高,理解能力强;

对比不同大模型的规划过程可以看出 [大模型 2] 做了 tool_call 方面的微调,对调用工具的需求比较敏感,比较适合实现复杂 Agent 的需求。

最后把 RAG 和 Agent 的能力通过前置 AI 路由统一起来:实现 AI 服务统一入口。

img

总结

本文讲述了采用 LangChain 开发 RAG 和 Agent 应用的思路,分析 AIGC 在组件活动业务中的应用案例:活动组件 AI 助手。

  • 在应用案例分析中,展示了活动组件智能 AI 助手的推荐组件能力及查询历史活动和组件数据的能力。
  • 在落地过程中,分别讲述了 RAG 和 Agent 的核心实现思路。
  • 最后,对比了不同大模型在实际 Agent 规划中的效果,以及活动组件 AI 助手的整体流程架构图。

​

如何学习AI大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

用ollama本地部署Lamma3.1 ollama create 自定义模型名字 -f Modelfile。让lamma3.1写一个贪吃蛇小游戏,一次run成功。例如:ollama run llama3.1。例如:ollama run llama3.1。 阅读详情

相关推荐

Windows 中 利用 ollama 来搭建 deepseek R1

近年来,大模型凭借其强大的语言理解和生成能力,在自然语言处理、计算机视觉等领域取得了突破性进展。从GPT系列到国内的,文心一言、[Qwen]、,大模型已成为推动人工智能发展的核心力量。ollama作为新兴的大模型搭建工具,以其开源、高效、易于部署的特点,在人工智能开发者社区中崭露头角,为大模型的搭建和应用提供了新的解决方案。在当今数字化浪潮中,人工智能的发展可谓日新月异,而大模型作为其核心驱动力,正重塑着各个行业的格局。

一个专注于机器学习基础与实战的技术博客,内容涵盖算法推导、模型实现、数学原理与代码实践。用通俗的语言解析复杂概念,记录学习过程中的思考与总结,适合机器学习爱好者和从业者参考。 2554

使用 Ollama 本地运行各种 LLM

今天看看另外一个产品Ollama。Ollama 的安装非常简单,只需从官网(https://ollama.com/download)下载后解压缩,并在 Terminal 中运行脚本即可完成环境设置。我尝试运行 Llama3,虽然在运行时占用了大量电脑资源,使得其他应用运行变慢,但整体体验尚可。Ollama 支持多种大型语言模型(https://ollama.com/library)。

python123456_的博客 1734

Spring Boot项目实战:用LangChain4j快速集成AGENT和RAG,打造你的Java智能助手

本文详细介绍了如何在Spring Boot项目中利用LangChain4j框架集成AGENT和RAG技术,打造高效可靠的Java智能助手。通过分层架构设计、混合检索策略和工程化实践,帮助开发者快速实现企业级AI应用,提升业务处理效率和智能化水平。

weixin_30335575的博客 401

AI大模型探索之路-基础篇5:GLM-4解锁国产大模型的全能智慧与创新应用

随着人工智能技术的飞速发展,大型预训练语言模型已成为推动行业进步的重要力量。它们在理解自然语言、生成文本、执行复杂任务等方面展现出惊人的能力。在此背景下,国产大模型GLM-4的问世,不仅展现了中国在AI领域的实力,也为国内外研究者和开发者提供了新的研究与应用平台。

寻道AI,探索AI无限可能! 8679

2024最新最全【大模型学习路线规划】零基础入门到精通!

数学基础:学习线性代数、微积分、概率论与数理统计等基础知识。这些数学基础对于理解大模型的原理和算法至关重要。编程语言:熟练掌握Python编程,这是大模型开发的首选语言。同时,了解常用的深度学习框架,如TensorFlow和PyTorch。深度学习基础:学习深度学习的基本原理和常用算法,如神经网络、卷积神经网络、循环神经网络等。Transformer模型:深入理解Transformer的原理、结构及其变种。

yXIAOyu_的博客 2973

视频倍速 - 在线调倍速的加速器APP工具

一刀工具箱APP提供一键可将手机上的视频倍速播放,可以调整视频倍速的加速器,调节视频的速度也就是调节视频的播放速度!一键可将手机上的视频倍速播放,可以调整视频倍速的加速器,调节视频的速度也就是调节视频的播放速度!视频倍速-在线调倍速的加速器-一刀工具箱APP。...

无涯教程 7558

LangChain RAG&Agent实践-活动组件AI助手的实现

本文主要讲述采用LangChain开发RAG和Agent应用的思路,分析AIGC在组件活动业务中的应用案例。02本文讲述了采用LangChain开发RAG和Agent应用的思路,分析AIGC在组件活动业务中的应用案例:活动组件AI助手。在应用案例分析中,展示了活动组件智能AI助手的推荐组件能力及查询历史活动和组件数据的能力。在落地过程中,分别讲述了RAG和Agent的核心实现思路。最后,对比了不同大模型在实际Agent规划中的效果,以及活动组件AI助手的整体流程架构图。

h1453586413的博客 1146

Reality Capture控制点修复/合并模型

通过增加控制点/修改对齐设置参数来修复模型被分为两个部分的解决方法

草履虫建模的博客 5243

智谱AI GLM4开源!快速上手体验

GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中,GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出较高的性能。GLM-4-9B 模型具备了更强大的推理性能、更长的上下文处理能力、多语言、多模态和 All Tools 等突出能力。

IT大头的博客 4359

吉林大学软件工程章节测验 第九章 答案+解析

4.【判断题】估算软件规模有代码行技术和功能点技术两种方法,其中代码行方法估计实现一个功能所需要的源程序行数,其不依赖项目所使用的开发语言,并且具有较好的直观性。3.【单选题】软件项目估算时,若计划人员对每个功能分别按最佳的、可能的、悲观的三种情况给出功能点估计值,记作a, m, b,则估算的期望值E的公式为( )。8.【判断题】在工程网络图中,如果在由起始事件至终止事件所构成的一条路径上,所有事件的最早时刻都和最迟时刻都相同,那么这条路径就是关键路径。4.【单选题】配置管理贯穿软件开发的整个过程。

m0_51459931的博客 1431

逆向工程Python爬虫——国税局发票查验平台

前言 这是一篇含金量很高的干货文章,笔者将手把手带领各位一步一步地实现爬取国家税务总局全国增值税发票查验平台(以下简称“查验平台”)。这个想法诞生在19年初,当时在做一款通过扫描二维码就可以查验发票的小程序。 当时由于笔者学艺尚浅,没办法模拟请求爬取查验平台,所以最终采用的技术方案是通过web自动化测试工具selenium控制浏览器去模拟查验步骤,即使这样,开发过程也是困难重重,不过最后笔者和伙伴们成功实现了整套流程,最后开发出的产品口袋发票夺得了包括2019微信小程序开发大赛赛区三等奖在内的多个奖项。 但

weixin_43102379的博客 1万+

大模型学习路线(2025最新)从零基础入门到精通,看完这一篇就够了

以下为你详细介绍 2025 年从零基础入门到精通大模型的学习路线。

优快云_224022的博客 6015

【2026年华为暑期实习(AI)-4月22日-第三题- 网络异常流量传播链路溯源】(题目+思路+Java&C++&Python解析+在线测试)

本文提出了一种基于空间距离和流量负载的网络异常传播链检测方法。首先通过曼哈顿距离建立基站间的直接关联关系,形成无向图;然后计算各连通块的总负载,筛选出关键节点;最后在关键节点构成的有向无环图(DAG)中寻找用户数最大的传播路径。算法采用DFS/BFS识别连通块,并通过动态规划求解最长路径,时间复杂度为O(N^2)。该方法适用于监控网络中异常流量的定向传播分析,能有效识别高负载区域和最大影响路径。

m0_73659489的博客 187

ChatGLM4重磅开源! 连忙实操测试一波,效果惊艳,真的好用!

GLM-4-9B是智谱AI在24年6月5日推出的开源预训练模型,属于GLM-4系列。之前已开源chatglm1~chatglm3等多个版本。GLM4在语义理解、数学、推理、编程和知识等领域的测试中表现优异。GLM-4-9B-Chat是其人类偏好对齐版本,支持多轮对话、网页浏览、代码执行、自定义工具调用(function call)以及长文本推理(最大128K上下文)。该系列模型还支持26种语言,包括日语、韩语和德语,并推出了支持1M上下文长度(约200万中文字符)的版本。GLM-4-9B 系列模型主要包含:

2401_84206094的博客 2020

ofd转pdf报错:org.ofdrw.reader.ZipUtil.unZipFileByApacheCommonCompress【已解决】

ofd转pdf报错:java.lang.NoClassDefFoundError:org/apache/commons/io/function/IOIterator at org.ofdrw.reader.ZipUtil.unZipFileByApacheCommonCompress,java.lang.NoSuchMethodError:org.apache.commons.compress.archivers.zip.ZipArchiveInputStream.getNextEntry()

黄团团的个人博客 1283

Android 13.0 app进程保活白名单功能实现

在13.0的系统rom产品开发中,在某些重要的app即使进入后台,产品需求要求也不想被系统杀掉进程,需要app长时间保活,就是app进程保活白名单功能的实现, 所以需要在系统杀进程的时候不杀掉白名单的进程,接下来就看怎么样来实现这些功能

安卓兼职framework和app工程师的博客 3142

2024最新最全【大模型学习路线规划】零基础入门到精通

目标:了解大模型的基本概念和背景。内容:人工智能演进与大模型兴起。大模型定义及通用人工智能定义。GPT模型的发展历程。目标:深入学习大模型的关键技术和工作原理。内容:算法的创新、计算能力的提升。数据的可用性与规模性、软件与工具的进步。生成式模型与大语言模型。Transformer架构解析。预训练、SFT、RLHF。目标:掌握大模型开发所需的编程基础和工具。内容:Python编程基础。Python常用库和工具。提示工程基础。目标:通过实战项目深化理论知识和提升应用能力。

m0_70486148的博客 2128

【微服务】Spring Aop原理深入解析

spring原理深度解析

congge 1万+

大模型学习路径(非常详细)零基础入门到精通,收藏这篇就够了_大模型语言的学习路径

在掌握机器学习之前,理解支撑这些算法的基本数学概念非常重要。:这是理解许多算法(特别是深度学习算法)的关键。主要概念包括向量、矩阵、行列式、特征值和特征向量、向量空间以及线性变换。:许多机器学习算法涉及到连续函数的优化,这需要理解导数、积分、极限和级数。多变量微积分以及梯度的概念也很重要。:这些知识对于理解模型如何从数据中学习并进行预测至关重要。主要概念包括概率理论、随机变量、概率分布、期望、方差、协方差、相关性、假设检验、置信区间、最大似然估计和贝叶斯推断。

HUANGXIN9898的博客 2456

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

大模型学习路线入门到精通,非常详细收藏我这一篇就够了!

理论其实就是一套描述和解决问题的方法论,只不过不同的技术有不同的方法,也就是理论。‍‍‍‍‍‍‍‍‍‍理论的发展有两种方式,一种是基于实践检验结果总结出来的经验;二种是以严谨的科学理论推导出逻辑自洽的解决某个问题的方法。‍‍‍‍‍‍‍比如说,火是人类生存和进化的重要条件之一,而在远古时期人类对于火的认知还比较浅显,因此那时关于火的理论也比较基础,比如它可以取暖,可以烤熟食物等;这就是基于经验的理论基础。‍‍‍‍。

jennycisp的博客 2513

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

打破小模型极限:Phi-4如何在推理任务中超越GPT-4 | Command R7B:小模型,大用途,企业AI的高效新选择

大模型领域的发展日新月异,每天都有许多有趣的论文值得深入品读。下面是本期的论文:1、打破小模型极限:Phi-4如何在推理任务中超越GPT-42、Command R7B:小模型,大用途,企业AI的高效新选择1、打破小模型极限:Phi-4如何在推理任务中超越GPT-4Phi-4:用高质量合成数据重新定义小模型能力Phi-4 是微软推出的最新14亿参数语言模型,专为推理任务设计。与传统模型依赖网络数据预训练不同,Phi-4 创新性地将高质量合成数据贯穿训练过程,并在关键阶段优化数据混合。

m0_59164304的博客 941

[大模型]GLM4-9B-chat Lora 微调

LoraConfig这个类中可以设置很多参数,但主要的参数没多少,简单讲一讲,感兴趣的同学可以直接看源码。task_type:模型类型:需要训练的模型层的名字,主要就是attention部分的层,不同的模型对应的层的名字不同,可以传入数组,也可以字符串,也可以正则表达式。rlora的秩,具体可以看Lora原理lora_alphaLora alaph,具体作用参见Lora原理Lora的缩放是啥嘞?当然不是r(秩),这个缩放就是, 在这个LoraConfig中缩放就是 4 倍。

FL1623863129的博客 4439

【大模型部署】MAC OS 本地搭建部署 dify

Dify 是一个开源的大语言模型(LLM)应用开发平台,融合了后端即服务(Backend as Service, BaaS)和 LLMOps 理念,旨在简化和加速生成式AI应用的创建和部署。

DEVELOPERAA的博客 6038

一文读懂大模型中的token

学习大模型的朋友肯定听说过大模型接口按token,自己编写代码的时候也经常看到token这个词,那它究竟是什么呢,我们一起来探究一下在大模型中,token不一定是一个完整的词。它可以是一个词、一部分词、字符甚至是标点符号。这取决于所使用的分词方法。子词分词方法(如 BPE 和 WordPiece)在现代 NLP 模型中非常常见,因为它们能够高效地处理各种语言现象,同时保持词汇表的紧凑性。带有空格前缀(如Ġworld)和不带空格前缀(如world。

2401_85378759的博客 8313

据说逼近GPT-4?国内大模型 ChatGLM4 尝鲜体验

本人从一开始ChatGLM-6B时,就一直关注这个模型。今天,智谱AI在DevDay技术开放日活动上发布了全新升级的ChatGLM4模型,这必须得体验一波。

白天安全建设,晚上全栈开发,大模型爱好者。公众号:飞羽技术工坊。 6160
上一篇: 真的超级好用!五分钟内将文本转为图谱,可用于发现实体之间关系和规律,与文本对话
下一篇: 如何入门大模型?普通人也能看懂的大模型入门教程,不要错过啦!
我爱学大模型
博客等级 码龄3年 7883粉丝 687原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值