想让AI真正“懂你”,光靠即时对话远远不够——关键在于记忆。
在构建智能对话系统时,随着对话逐渐深入,如何让AI记住过往交互、保持上下文连贯,同时不拖垮性能,是一道绕不开的坎。随着对话轮次增多,两个问题会越来越明显:
- 重要的早期信息被“遗忘”,回复开始跑偏;
- 上下文越拉越长,计算开销飙升,响应越来越慢。
像 Mem0 这类开源框架虽然降低了使用门槛,但要真正用好,我们仍需理解背后的记忆机制。只有清楚不同策略的优劣,才能根据场景做出合理选择。
本文将深入分析八种常见记忆策略,并结合示例代码阐述其实现思路。
01 全量记忆:保留所有上下文
全量记忆是最直观的策略——每轮对话全部保留,供后续使用。
history = []
def add_message(user_input, ai_response):
history.append({"user": user_input, "assistant": ai_response})
def get_context():
return "\n".join([f"{h['user']} -> {h['assistant']}" for h in history])
特点分析
-
优点:实现简单,信息完整
-
缺点:对话增长快,会触发上下文限制;成本高
-
适用场景:短对话或一次性问答
02 滑动窗口:仅保留近期信息
通过固定长度窗口,只保留最近N轮对话,避免上下文无限膨胀。
WINDOW_SIZE = 3
memory = []
def add_message(user_input, ai_response):
memory.append({"user": user_input, "assistant": ai_response})
if len(memory) > WINDOW_SIZE:
memory.pop(0)
def get_context():
return "\n".join([f"{m['user']} -> {m['assistant']}" for m in memory])
特点分析
-
优点:低开销、实现简单
-
缺点:早期信息遗忘快,无法长期记忆
-
适用场景:FAQ、闲聊机器人等短对话场景
03 相关性过滤:智能筛选重要信息
为每条记忆打分,保留重要内容,丢弃次要信息。
MAX_ITEMS = 25
memory = []
def add_message(user_input, ai_response):
score = evaluate_importance(user_input, ai_response)
memory.append({"user": user_input, "assistant": ai_response, "score": score})
if len(memory) > MAX_ITEMS:
memory.remove(min(memory, key=lambda x: x["score"]))
特点分析
-
优点:关键内容不丢失,智能化管理
-
缺点:评分算法复杂,可能误判
-
适用场景:知识型对话或信息密集型场景
04 摘要/压缩:浓缩核心信息
将冗长对话压缩为摘要,只保留关键信息。
memory = []
summary = None
MAX_LEN = 10
def add_message(user_input, ai_response):
memory.append({"user": user_input, "assistant": ai_response})
if len(memory) > MAX_LEN:
old_turns = memory[:-5]
summary_text = summarize(old_turns)
summary = merge(summary, summary_text)
memory.clear()
memory.append({"summary": summary})
memory.extend(memory[-5:])
特点分析
-
优点:节省上下文空间,保留要点
-
缺点:摘要质量依赖模型,可能遗漏信息
-
适用场景:长对话、连续性用户交互
05 向量数据库:语义检索记忆
将对话内容向量化存储,基于语义进行检索,实现长期记忆。
memory = VectorStore()
def add_message(user_input, ai_response):
embedding = embed({"user": user_input, "assistant": ai_response})
memory.add(embedding, {"user": user_input, "assistant": ai_response})
def get_context(query):
q_embedding = embed({"query": query})
results = memory.search(q_embedding, top_k=3)
return "\n".join([f"{r['user']} -> {r['assistant']}" for r in results])
特点分析
-
优点:语义检索,支持长期存储
-
缺点:依赖向量质量,需额外数据库维护
-
适用场景:个性化助手、跨会话记忆
06 知识图谱:结构化记忆
通过构建实体-关系图谱,实现信息的结构化存储与推理。
graph = KnowledgeGraph()
def add_message(user_input, ai_response):
triples = extract_triples(f"User: {user_input}\nAI: {ai_response}")
for s, r, o in triples:
graph.add_edge(s, o, r)
def get_context(query):
entities = extract_entities(query)
context = []
for e in entities:
context += graph.query(e)
return context
特点分析
-
优点:可做推理,信息可追溯
-
缺点:构建维护成本高
-
适用场景:科研、法律、企业客户服务等复杂场景
07 分层记忆:短期与长期结合
结合短期窗口与长期可检索记忆,实现类似人脑的分层管理。
short_term = SlidingWindow(max_turns=2)
long_term = VectorDatabase(k=2)
def add_message(user_input, ai_response):
short_term.add(user_input, ai_response)
if contains_key_info(user_input):
long_term.add(embed(user_input + ai_response), summarize(user_input + ai_response))
def get_context(query):
recent = short_term.get_context()
related = long_term.search(embed(query))
return f"【长期】\n{related}\n\n【短期】\n{recent}"
特点分析
-
优点:短期快速响应,长期记忆可检索
-
缺点:实现复杂,需要多模块协调
-
适用场景:个性化助理、跨天日程管理、企业客服
08 类OS内存管理:模拟Swap机制
参考操作系统内存管理,将近期对话视为“RAM”,历史信息视为“Disk”,需要时进行Page In。
active_memory = Deque(maxlen=2)
passive_memory = {}
turn_id = 0
def add_message(user_input, ai_response):
global turn_id
turn = f"User: {user_input}\nAI: {ai_response}"
if len(active_memory) >= 2:
old_id, old_turn = active_memory.popleft()
passive_memory[old_id] = old_turn
active_memory.append((turn_id, turn))
turn_id += 1
def get_context(query):
context = "\n".join([x[1] for x in active_memory])
paged_in = ""
for id, turn in passive_memory.items():
if any(word in turn.lower() for word in query.lower().split() if len(word) > 3):
paged_in += f"\n(Paged in from Turn {id}): {turn}"
returnf"### Active Memory\n{context}\n\n### Paged-In\n{paged_in}"
特点分析
-
优点:冷热分层管理,节省资源
-
缺点:Page策略设计复杂,拼接逻辑需谨慎
-
适用场景:低延迟对话、高容量长期记忆需求
以上8种记忆策略涵盖了从简单到复杂、短期到长期、非结构化到结构化的多种实现思路。
通过理解这些原理,开发者可以根据业务需求选择最合适的记忆机制,实现高效、个性化和可扩展的AI智能体。
人工智能测试开发学习交流群

推荐阅读
精选技术干货
精选文章
-
让 AI 更聪明:不可错过的 7 大开源 MCP 项目
2025年大语言模型横向评测:合规、成本和开源,企业首选是谁?
2025大模型平台选择指南:从个人助手到企业智能体,解读五大场景
深入解析Agent实现“听懂→规划→执行”全流程的奥秘
国产模型Qwen3-32B本地化实战:LangChain + vLLM 构建企业智能引擎
企业AI转型之战:Coze、Dify与FastGPT的巅峰对决
学社精选
技术平台与工具
自研工具与开放资源
1134

被折叠的 条评论
为什么被折叠?



