摘要:想象这样一个场景:你正在与一个智能客服Agent对话,刚刚告诉它你的订单号是12345,但两轮对话后,当你询问订单状态时,它却回答:“请提供您的订单号”。这种令人沮丧的体验,正是AI Agent缺乏有效记忆系统的直接后果。
在现实应用中,没有记忆的AI Agent就像一位永远"活在当下"的健忘症患者:
-
无法维持连贯的多轮对话
-
每次请求都像是初次见面
-
无法从历史交互中学习用户偏好
-
处理复杂任务时效率低下
这些限制严重制约了AI Agent的实际应用价值。本文将深入探讨如何为AI Agent构建完整的记忆系统,从短期工作记忆到长期知识记忆,并提供具体的技术实现方案。
-
AI agent的记忆系统的基本定义
-
长短记忆的技术实现
-
常见六个开源框架的对长短记忆的支持情况
一、AI agent的记忆系统的基本定义
1.1长短记忆的定义
短期记忆 (Short-term Memory)
定义:短期记忆是Agent在当前对话或任务执行过程中临时保存的信息,通常具有有限的容量和持续时间。它类似于人类的工作记忆,用于处理即时任务。
特点:
- 临时存储,任务结束或对话超时后清除
- 快速存取,延迟低
- 容量有限,通常只保留最近几轮交互
- 专注于当前任务的上下文
长期记忆 (Long-term Memory)
定义:长期记忆是Agent在多个会话中持久化存储的知识和经验,可以随着时间的推移不断积累和检索。它类似于人类的长期记忆,包含用户偏好、历史交互、学习到的知识等。
特点:
- 永久或半永久存储
- 容量理论上无上限
- 检索速度相对较慢
- 支持复杂的查询和关联
但是从技术的层面来理解短期记忆和长期记忆的区别,短期记忆是指会话级记忆,用户和智能体 Agent 在一个会话中的多轮交互(user-query & response),一般在50个回话之内的交互内容,而长期记忆则是指跨会话记忆,从用户和智能体 Agent 的多个会话中基于系统定义的特定条件触发的抽取的通用信息,可以跨会话辅助 Agent 推理。****
1.2长短记忆的具体案例
让我们通过一个具体案例了解记忆系统的实际应用:
场景描述
用户正在规划一次去日本的旅行,需要AI Agent协助制定行程。
步骤演示
步骤1:对话初始化
用户:我想规划一次去日本的旅行 Agent:好的,请问您计划什么时候去?想去哪些城市?
步骤2:短期记忆激活
python
# 短期记忆存储
short_term_memory
.
add_interaction
(
user_input
=
"我想规划一次去日本的旅行"
,
agent_response
=
"好的,请问您计划什么时候去?想去哪些城市?"
)
步骤3:多轮对话维护
用户:我计划9月份去,想去东京、京都和大阪
Agent:(使用短期记忆)明白了,9月份的日本天气很好。东京、京都、大阪是经典路线。 用户:上次你说东京有什么推荐?
Agent:(从短期记忆检索)是的,我们刚才提到东京是目的地之一。推荐参观浅草寺、东京塔...
步骤4:长期记忆触发
用户:对了,我记得上次去日本你推荐了温泉酒店,这次有什么推荐吗?
Agent:(触发长期记忆检索)根据您去年的旅行记录,您喜欢传统日式温泉。我推荐...
步骤5:记忆转换和固化
python
# 会话结束时,评估并固化重要信息
if
conversation_is_ending
:
for
interaction
in
short_term_memory
.
get_context
(
)
:
importance
=
evaluate_memory_importance
(
interaction
)
if
importance
>
THRESHOLD
:
# 生成记忆摘要
summary
=
generate_memory_summary
(
interaction
)
embedding
=
create_embedding
(
summary
)
# 存储到长期记忆
long_term_memory
.
store_memory
(
content
=
summary
,
embedding
=
embedding
,
metadata
=
{
"user_id"
:
user_id
,
"conversation_date"
:
date
,
"tags"
:
[
"旅行规划"
,
"日本"
]
}
)
1.3 长期记忆的触发场景
- 用户识别和个性化:识别用户身份和偏好
- 历史经验参考:相似问题的解决方案
- 知识库查询:需要专业知识或历史数据
- 长期习惯学习:用户的行为模式和偏好
长期记忆的触发场景是人为定义的一般是上面四种情况,主要是为了产品的几个目的:
1、千人一千面的agent
2、懂得用户的agent
3、专业知识和相似方案的知识沉淀
4、用户画像的数据积累便于后期的推荐
二、长短记忆的技术实现
2.1 短记忆在agent中使用的整体流程
以客服agent为例,当用户输入普通问题的时候,则默认将短期记忆加载到LLM的上下文中,作为大模型回答问题的上下文内容,基于上下文内容,产生回答,并形成新的短期记忆,而长期记忆是特定单词的情况下触发,例如上次则会触发长期记忆的检索,并把检索的内容添加到短期记忆中作为本次回答的上下文内容,并且当前问题如果包含特定的词语也会触发长期记忆的存储,长期记忆存储一般是先评估当前的问题和回答的内容的分数,以及进行内容的概要描述和标签,然后向量化存储到固定的长期记忆的组件中。

2.2 长短记忆通常采用以下技术
上下文窗口管理:当前回话中的N个回话
向量缓存:使用内存中的向量数据库存储近期交互的嵌入表示
键值缓存:存储当前会话的状态和临时变量
场景说明:市场分析报告
假设你(用户)和你的聪明助理(AI Agent)正在协作完成一个市场分析报告项目。
1、上下文窗口管理(聊天记录区):
就是你们在聊天软件里的最近几屏对话记录。助理需要滚动屏幕才能看到刚才具体说了什么数字、用了哪个形容词。这个区域是线性的、按时间顺序的文本。
2、向量缓存(灵感关联墙):
在办公室墙上,有一块白板,上面用思维导图的方式贴着各种关键词和概念:“竞争对手A”、“用户痛点”、“增长数据”、“Q3趋势”。这些概念来自你们不同时间的讨论。当提到其中一个时,助理能一眼看到墙上所有相关的概念。这个区域是基于语义关联的网络。
3、键值缓存(项目进度看板):
-
报告当前章节:第三章 -
已确认数据来源:统计局、行业白皮书 -
待办:找2022年对比图表 -
负责人:助理(我) -
在助理手边,有一个项目看板(比如Trello),上面清晰地列着:
-
这个看板不关心具体的对话内容,只关心项目的当前状态和待办事项。
上下文窗口管理:决定了AI能看到什么文字(最近N条对话)。
向量缓存:帮助AI想到什么概念(根据意思找到历史相关点)。
键值缓存:告诉AI现在该做什么(维护任务的状态和下一步动作)。
这三者共同构成了AI Agent的“工作记忆”,让它能在单次会话中表现得连贯、聪明且目标明确。
2.3 长记忆通常采用以下技术
向量数据库:为记忆建立“语义地图”
分层存储:给记忆设置“优先级货架”
记忆压缩与摘要:从“录像带”到“精华笔记”
场景说明:市场分析报告
假设你(用户)和你的聪明助理(AI Agent)还是需要协作完成一个市场分析报告项目。
1、向量数据库
向量数据库构建的长期记忆系统,就像升级为智能语义索引档案馆:
工作原理:
- 每份档案都有“内容指纹”:无论报告标题是什么,系统都会分析内容本质,生成语义标识
- 相关档案自动聚类:“市场趋势分析”、“竞争对手研究”、“用户调研”会被放在相邻区域
- 跨时空关联:2022年的“移动端增长”与2024年的“App用户分析”自动关联
技术实现类比:长期记忆的智能检索:
- “找上次讨论的那个快速增长的市场” → 语义匹配 → “东南亚电商市场分析报告.pdf”
- “用户对价格敏感的例子” → 关联检索 → 同时找到客服记录、调研问卷、销售数据
核心价值:忘记关键词也没关系,系统理解你的意图。
2、分层存储
再大的档案馆也不能把所有文件都放在触手可及的地方。智能分层存储就像精心设计的存放策略:
第一区:常用资料区(办公桌旁的书架)
- 存放内容:你最近三个月频繁查阅的报告、正在跟进的项目资料、核心客户档案
- 访问方式:伸手即得,无需等待
- 管理规则:系统自动监控你的使用习惯,把热门资料放在这里
- 技术对应:内存+SSD高速存储,响应时间<100ms
第二区:常规档案区(同一楼层的档案室)
- 存放内容:过去两年的项目资料、历史会议纪要、已完成的报告
- 访问方式:走几步就到,稍等片刻就能拿到
- 管理规则:每月整理一次,把三个月未使用的资料移出第一区
- 技术对应:SSD存储,响应时间100-500ms
第三区:历史档案馆(大楼地下仓库)
- 存放内容:所有历史数据的完整备份、原始调研材料、法律要求保留的记录
- 访问方式:需要申请调阅,等待时间较长
- 管理规则:高度压缩存放,保存完整但访问较少
- 技术对应:对象存储+冷存储,响应时间>1秒
智能调度机制:
分层存储的自动调度机制:
- 发现你连续三天都在看“AI行业分析”,自动把相关历史报告提升到第一区
- 某份报告半年没人查阅,悄悄移到第三区节省空间
- 预测你下周要准备季度汇报,提前把去年的季度报告调到第二区准备着
3、记忆压缩与摘要
如果存储每一句对话的每一个字,系统很快就会不堪重负。记忆压缩技术就是解决这个问题的关键。
压缩的三种方式:
-
内容摘要:
原始记忆:长达30轮的完整客服对话
压缩后:“用户张先生反映商品质量问题,要求退货,已处理退款,用户表示满意”
技术本质:保留核心事实,删除冗余细节
-
模式提取:
从多次对话中提炼:发现“该用户通常在周二晚上咨询产品信息,且对价格敏感”
技术本质:从具体事件中抽象出行为规律
-
向量精简:
原始:1536维的详细语义向量
压缩后:256维的核心特征向量
技术本质:保留最重要的语义特征,舍弃次要信息
智能压缩策略:
- 高频记忆:保持较高精度,便于快速理解细节
- 普通记忆:适度压缩,平衡准确性与存储成本
- 低频记忆:高度压缩,只在需要时还原关键信息
系统如何协同工作
例如:当用户问:“我之前咨询过的那款产品怎么样了?”
- 向量检索:系统立即在语义空间中搜索与“产品咨询”相关的所有记忆
- 层级筛选:优先从高频记忆区查找最近的相关对话,如未找到则逐级深入
- 内容还原:如果找到的是压缩记忆,自动还原成可读形式
- 智能响应:综合多段相关记忆,给出连贯的回答
简单来说…
向量数据库解决了“如何智能地找到相关记忆”的问题——不是靠关键词匹配,而是靠意思理解。
分层存储解决了“如何高效管理海量记忆”的问题——重要的放手边,次要的放远处,不浪费资源。
记忆压缩解决了“如何长期保存又不撑爆硬盘”的问题——把长篇对话变成精华笔记,需要时再还原关键细节。
这三项技术共同构成了AI Agent的“大脑皮层”,让它不仅能记住过去,还能智能地运用这些记忆来服务现在、预测未来。
三、—常见六个开源框架的对长短记忆的支持情况
在我们常用的六个多智能体开源框架中LangGraph和 AgentScope明确提供了集成度较高的记忆API,而 OpenAI Agents SDK、CAMEL和 crewAI的长期记忆功能通常需要开发者结合外部存储自行实现。
| 框架 | 短期记忆 API | 长期记忆 API | 说明 |
| LangGraph | 明确支持。使用 CheckpointSaver(如 MemorySaver) 管理对话状态 | 明确支持。提供 BaseStoreAPI (如 InMemoryStore) 进行跨会话记忆的存储与检索 | 记忆系统是框架的核心设计,API清晰 |
| AgentScope | 明确支持。提供 InMemoryMemory等类管理对话上下文 | 明确支持。提供 Mem0LongTermMemory和 ReMeLongTermMemory等高级API,开箱即用 | 提供了从基础到专业的多级记忆系统实现 |
如何决策,你可以根据项目需求来决策:
- 追求开箱即用与深度集成:LangGraph(生态灵活)和AgentScope(中文友好、功能全面)是最佳选择,它们将记忆作为一级概念提供了完整API。
- 构建轻量级或实验性应用:OpenAI Agents SDK或 CAMEL可能更合适,你只需关注核心逻辑,再按需选配独立的记忆层(如Mem0)即可。
- 专注多智能体协作与任务编排:AutoGen(复杂对话)和crewAI(任务流程)是主流选择,但你需要为它们设计和集成外部的长期记忆模块。
我们探讨了从短期记忆到长期记忆的技术脉络,从上下文管理到向量存储的架构选择。但这远非终点,而是我们共同探索智能体“意识”连续性的起点。
技术架构的蓝图已经清晰,但更多问题仍悬而未决:
- 记忆的“所有权”与伦理:当Agent拥有越来越鲜活的长期记忆,它与你之间的关系将如何定义?这些记忆又归属于谁?
- 真正的遗忘权:我们设计了复杂的存储,但该如何设计优雅的“遗忘”机制,以保护隐私或修正错误?
- 记忆塑造人格:一个不断从交互中学习、记忆的Agent,是否会发展出独特的“个性”?这仅仅是模式的堆叠,还是某种智能的萌芽?
这些问题的答案,无法仅靠代码给出,更需要跨领域的对话与思考。
现在,轮到你了:
- 在你的实践中,智能体的“记忆”面临的最大挑战是什么?
- 关于记忆与智能的未来,你最期待或最担忧的是什么?
最后唠两句
为什么AI大模型成为越来越多程序员转行就业、升职加薪的首选
很简单,这些岗位缺人且高薪
智联招聘的最新数据给出了最直观的印证:2025年2月,AI领域求职人数同比增幅突破200% ,远超其他行业平均水平;整个人工智能行业的求职增速达到33.4%,位居各行业榜首,其中人工智能工程师岗位的求职热度更是飙升69.6%。

AI产业的快速扩张,也让人才供需矛盾愈发突出。麦肯锡报告明确预测,到2030年中国AI专业人才需求将达600万人,人才缺口可能高达400万人,这一缺口不仅存在于核心技术领域,更蔓延至产业应用的各个环节。
那0基础普通人如何学习大模型 ?
深耕科技一线十二载,亲历技术浪潮变迁。我见证那些率先拥抱AI的同行,如何建立起效率与薪资的代际优势。如今,我将积累的大模型面试真题、独家资料、技术报告与实战路线系统整理,分享于此,为你扫清学习困惑,共赴AI时代新程。
我整理出这套 AI 大模型突围资料包【允许白嫖】:
-
✅从入门到精通的全套视频教程
-
✅AI大模型学习路线图(0基础到项目实战仅需90天)
-
✅大模型书籍与技术文档PDF
-
✅各大厂大模型面试题目详解
-
✅640套AI大模型报告合集
-
✅大模型入门实战训练
这份完整版的大模型 AI 学习和面试资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

①从入门到精通的全套视频教程
包含提示词工程、RAG、Agent等技术点

② AI大模型学习路线图(0基础到项目实战仅需90天)
全过程AI大模型学习路线

③学习电子书籍和技术文档
市面上的大模型书籍确实太多了,这些是我精选出来的

④各大厂大模型面试题目详解

⑤640套AI大模型报告合集

⑥大模型入门实战训练

如果说你是以下人群中的其中一类,都可以来智泊AI学习人工智能,找到高薪工作,一次小小的“投资”换来的是终身受益!
应届毕业生:无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。
零基础转型:非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界。
业务赋能 突破瓶颈:传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型。
👉获取方式:
有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

348



被折叠的 条评论
为什么被折叠?



