纲要
- 持久化层与记忆的关系
- 持久化层:基于
Checkpoint的状态保存与恢复机制 - 记忆:构建在持久化层之上的认知功能
- 持久化层:基于
- 核心组件
Checkpoint:图执行状态的快照MemorySaver/InMemorySaver:内存级短期记忆InMemoryStore:跨线程共享存储MongoDBSaver:基于 MongoDB 的持久化检查点
- 线程隔离与跨线程调用
- 基于
thread_id的会话隔离 - 基于
Store的跨线程数据共享
- 基于
- 短期记忆的实现
- 使用
MemorySaver编译StateGraph - 多轮对话中的上下文保持
- 使用
- 长期记忆的实现
- 使用
MongoDBSaver持久化检查点 - 进程重启后恢复对话状态
- 使用
- 记忆优化策略
- 消息数量阈值触发摘要
- 使用
RemoveMessage删除旧消息
- 总结
- 参考文档
- 修正说明
持久化层与记忆的关系
在构建多轮对话智能体时,最基础的需求是让智能体“记住”之前说过的话。LangGraph 通过持久化层提供这一能力[reference:0]。持久化层是一种保存和恢复图执行状态的机制,它基于 Checkpoint 记录每一步的状态快照,包括对话消息、工具调用结果等[reference:1]。
记忆则是构建在持久化层之上的认知功能,定义了我们如何组织、检索和使用这些被存储的信息。可以这样理解:持久化层解决“数据存在哪里”的问题,记忆解决“如何使用数据”的问题。
LangGraph 提供两种互补的持久化系统[reference:2]:
| 系统 | 作用 | 作用域 | 记忆类型 |
|---|---|---|---|
Checkpointer | 持久化图状态快照 | 单个线程 | 短期、线程级记忆 |
Store | 存储应用定义的键值数据 | 跨线程 | 长期、跨线程记忆 |
LangGraph 支持多种持久化后端[reference:3][reference:4]:
| 后端 | 类型 | 适用场景 |
|---|---|---|
MemorySaver / InMemorySaver | 内存 | 开发调试、短期会话[reference:5] |
InMemoryStore | 内存 | 跨线程共享、用户维度记忆[reference:6] |
MongoDBSaver | MongoDB | 生产环境、长期持久化[reference:7] |
PostgresSaver | PostgreSQL | 生产环境、高并发[reference:8] |
注意:
MemorySaver和InMemorySaver将检查点存储在 RAM 中,进程重启后所有检查点将丢失[reference:9]。生产环境应使用MongoDBSaver、PostgresSaver或SqliteSaver等持久化方案[reference:10]。
线程隔离与跨线程调用
LangGraph 的持久化层天然支持线程隔离——通过不同的 thread_id,每个对话会话拥有独立的状态空间[reference:11]。但有时我们需要在不同会话之间共享某些用户信息(例如用户档案),这可以通过 Store 接口实现跨线程数据共享[reference:12]。
Store 中的数据通过 namespace 进行组织,典型格式为 (user_id, "memories")[reference:13]。InMemoryStore 适合开发和测试,生产环境应使用 PostgresStore、MongoDBStore 或 RedisStore 等持久化存储[reference:14]。
短期记忆:带记忆的对话机器人
以下示例使用 MemorySaver 激活短期记忆,同一 thread_id 下可记住上下文。
环境准备
pip install langgraph langchain-openai python-dotenv
完整代码
import os
from dotenv import load_dotenv
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.memory import MemorySaver
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage, AIMessage
load_dotenv()
# 1. 定义 State
class ChatState(dict):
messages: list
# 2. 创建模型
llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)
# 3. 定义节点
def chat_node(state: ChatState) -> dict:
response = llm.invoke(state["messages"])
return {"messages": [response]}
# 4. 构建图并激活 MemorySaver
builder = StateGraph(ChatState)
builder.add_node("chat", chat_node)
builder.set_entry_point("chat")
builder.add_edge("chat", END)
memory = MemorySaver()
app = builder.compile(checkpointer=memory)
# 5. 多轮对话测试
config = {"configurable": {"thread_id": "session-001"}}
# 第一轮
input1 = {"messages": [HumanMessage(content="我叫 Tommy")]}
for event in app.stream(input1, config):
for key, value in event.items():
if "messages" in value and value["messages"]:
last_msg = value["messages"][-1]
print(f"助手: {last_msg.content}")
# 第二轮
input2 = {"messages": [HumanMessage(content="我叫什么名字?")]}
for event in app.stream(input2, config):
for key, value in event.items():
if "messages" in value and value["messages"]:
last_msg = value["messages"][-1]
print(f"助手: {last_msg.content}")
运行后,第二轮会正确回答“Tommy”。如果修改 thread_id,则会丢失记忆。
长期记忆:使用 MongoDB 持久化
将 MemorySaver 替换为 MongoDBSaver,检查点即可持久化到 MongoDB,重启不丢失[reference:15][reference:16]。
安装 MongoDB 驱动
pip install langgraph-checkpoint-mongodb pymongo
启动 MongoDB(Docker)
docker run -d -p 27017:27017 --name mongodb mongo:7
完整代码
import os
from dotenv import load_dotenv
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.mongodb import MongoDBSaver
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage
from pymongo import MongoClient
load_dotenv()
# 初始化模型
llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)
# 定义 State 和节点
class ChatState(dict):
messages: list
def chat_node(state: ChatState) -> dict:
response = llm.invoke(state["messages"])
return {"messages": [response]}
# 构建图
builder = StateGraph(ChatState)
builder.add_node("chat", chat_node)
builder.set_entry_point("chat")
builder.add_edge("chat", END)
# 连接 MongoDB 并创建 MongoDBSaver
client = MongoClient("mongodb://localhost:27017/")
checkpointer = MongoDBSaver(client, db_name="langgraph_checkpoints")
app = builder.compile(checkpointer=checkpointer)
# 多轮对话
config = {"configurable": {"thread_id": "persistent-001"}}
input1 = {"messages": [HumanMessage(content="记住,我最喜欢的语言是 Python")]}
for event in app.stream(input1, config):
for key, value in event.items():
if "messages" in value and value["messages"]:
print("助手:", value["messages"][-1].content)
# 即使重启程序,用同样的 thread_id 仍能回忆
input2 = {"messages": [HumanMessage(content="我最喜欢的语言是什么?")]}
for event in app.stream(input2, config):
for key, value in event.items():
if "messages" in value and value["messages"]:
print("助手:", value["messages"][-1].content)
注意:
MongoDBSaver需要传入MongoClient实例和数据库名称[reference:17][reference:18]。db_name默认为'checkpointing_db'[reference:19]。
再次运行程序并传入相同的 thread_id,智能体仍能回答“Python”。
记忆优化:对话摘要压缩上下文
直接保存所有历史消息会导致上下文窗口迅速膨胀。一种成熟方案是对话摘要:当消息数量超过阈值时,自动将旧消息压缩为一段摘要,同时删除原始消息,在保持关键信息的同时控制 token 开销。
实现思路
在 State 中增加 summary 字段,编写一个 summarize 节点,当消息列表长度超过设定值(如 6 条)时触发。该节点调用 LLM 生成摘要,并调用 RemoveMessage 删除旧消息。
from langgraph.graph import StateGraph, END, MessagesState
from langgraph.checkpoint.memory import MemorySaver
from langchain_openai import ChatOpenAI
from langchain_core.messages import SystemMessage, HumanMessage, RemoveMessage
# 自定义 State,增加 summary 字段
class State(MessagesState):
summary: str = ""
llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0)
def call_model(state: State) -> dict:
messages = state["messages"]
# 如果有摘要,添加到系统提示中
if state.get("summary"):
summary_msg = SystemMessage(content="历史对话摘要:" + state["summary"])
messages = [summary_msg] + messages
response = llm.invoke(messages)
return {"messages": [response]}
def summarize_conversation(state: State) -> dict:
# 仅当消息超过 6 条时执行总结
if len(state["messages"]) <= 6:
return {}
# 提取除最后两条外的所有消息作为总结素材
old_messages = state["messages"][:-2]
summary_prompt = "请用一段话总结以下对话的关键信息:" + " ".join([m.content for m in old_messages])
summary = llm.invoke([HumanMessage(content=summary_prompt)]).content
# 删除旧消息,保留最后两条
delete_messages = [RemoveMessage(id=m.id) for m in old_messages]
return {"summary": summary, "messages": delete_messages}
def should_summarize(state: State) -> str:
return "summarize" if len(state["messages"]) > 6 else "__end__"
# 构建图
builder = StateGraph(State)
builder.add_node("model", call_model)
builder.add_node("summarize", summarize_conversation)
builder.set_entry_point("model")
builder.add_conditional_edges("model", should_summarize)
builder.add_edge("summarize", "model")
memory = MemorySaver()
app = builder.compile(checkpointer=memory)
# 多轮对话测试
config = {"configurable": {"thread_id": "summary-test"}}
queries = [
"我叫张三",
"我喜欢编程",
"我在学习 LangGraph",
"请记住这些信息",
]
for q in queries:
input_data = {"messages": [HumanMessage(content=q)]}
for event in app.stream(input_data, config):
for key, value in event.items():
if "messages" in value and value["messages"]:
last_msg = value["messages"][-1]
print(f"助手: {last_msg.content}")
# 当消息数超过阈值后,再次提问仍能回忆历史
input_data = {"messages": [HumanMessage(content="我叫什么名字?")]}
for event in app.stream(input_data, config):
for key, value in event.items():
if "messages" in value and value["messages"]:
last_msg = value["messages"][-1]
print(f"助手: {last_msg.content}")
运行后,当对话超过 6 条时,旧消息会被压缩成摘要,窗口大小始终可控,但智能体依然能回答姓名等历史信息。
参考文档
官方文档
- LangGraph Persistence 官方文档
- LangGraph Memory 官方文档
- LangGraph Stores 官方文档
- LangGraph Checkpointers 官方文档
- MongoDBSaver API 参考
- BaseCheckpointSaver API 参考
参考链接
总结
LangGraph 的持久化层为智能体提供了稳固的记忆基础。通过 Checkpointer 实现线程级短期记忆,通过 Store 实现跨线程长期记忆[reference:20]。组合使用 MemorySaver、MongoDBSaver 和 InMemoryStore,可以灵活实现线程隔离、跨线程共享以及长期持久化。
对话摘要等优化策略则让记忆系统在有限窗口下仍能保持高效的上下文利用。这些技术是构建复杂、可靠的多智能体应用的必备技能。
395



被折叠的 条评论
为什么被折叠?



