**基于Zep的聊天历史长效记忆系统实战指南**-优快云博客

本文链接：https://blog.youkuaiyun.com/tt_jishu/article/details/149250976

在现代AI助理应用中，赋予AI系统回忆能力可以大大提升其与用户的交互体验。Zep是这样一个长效记忆系统，它能够让AI助手回忆过去的对话，从而降低幻觉、减少延迟，并减少成本。本文将深入探讨如何利用Zep实现聊天历史的长效记忆，提升用户体验。

## 技术背景介绍

Zep是一项开源的长效记忆服务，专为AI助手应用设计。它可以储存并搜索大量的历史对话记录，从而支持复杂的查询需求。Zep的优势在于其稳定性及高效的查询能力，使得构建智能交互成为一种可能。

## 核心原理解析

Zep的主要功能包括：
- **记忆存储**：保存用户与AI的互动记录，并进行自动总结。
- **向量搜索**：通过ZepRetriever进行高效的向量搜索，找到相关对话。
- **自动总结**：在超出消息窗口时自动进行信息总结，以确保记忆的有效性。

## 代码实现演示(重点)

下面我们将演示如何在应用中集成Zep系统以增强AI助手的记忆功能。代码可以直接运行。

```python
from uuid import uuid4

from langchain.agents import AgentType, initialize_agent
from langchain.memory import ZepMemory
from langchain_community.retrievers import ZepRetriever
from langchain_community.utilities import WikipediaAPIWrapper
from langchain_core.messages import AIMessage, HumanMessage
from langchain_core.tools import Tool
from langchain_openai import OpenAI

# 配置Zep服务器URL
ZEP_API_URL = "http://localhost:8000"

session_id = str(uuid4())  # 用户的唯一标识符

# 提供OpenAI API key
import getpass

openai_key = getpass.getpass()

# 提供Zep API key，这是可选的
zep_api_key = getpass.getpass()

# 初始化Wikipedia搜索工具
search = WikipediaAPIWrapper()
tools = [
    Tool(
        name="Search",
        func=search.run,
        description=(
            "useful for when you need to search online for answers. You should ask"
            " targeted questions"
        ),
    ),
]

# 设置Zep聊天历史
memory = ZepMemory(
    session_id=session_id,
    url=ZEP_API_URL,
    api_key=zep_api_key,
    memory_key="chat_history",
)

# 初始化Agent
llm = OpenAI(temperature=0, openai_api_key=openai_key)
agent_chain = initialize_agent(
    tools,
    llm,
    agent=AgentType.CONVERSATIONAL_REACT_DESCRIPTION,
    verbose=True,
    memory=memory,
)

# 添加历史数据
test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    {"role": "ai", "content": "Octavia Estelle Butler (June 22, 1947 – February 24, 2006) was an American science fiction author."},
    # 更多历史记录...
]

for msg in test_history:
    memory.chat_memory.add_message(
        (HumanMessage(content=msg["content"]) if msg["role"] == "human" else AIMessage(content=msg["content"])),
        metadata=msg.get("metadata", {}),
    )

# 运行Agent
agent_chain.run(
    input="What is the book's relevance to the challenges facing contemporary society?"
)

# 检查Zep记忆
def print_messages(messages):
    for m in messages:
        print(m.type, ":\n", m.dict())

print(memory.chat_memory.zep_summary)
print("\n")
print_messages(memory.chat_memory.messages)

# 向量搜索
retriever = ZepRetriever(
    session_id=session_id,
    url=ZEP_API_URL,
    api_key=zep_api_key,
)

search_results = memory.chat_memory.search("who are some famous women sci-fi authors?")
for r in search_results:
    if r.dist > 0.8:  # 仅打印相似度高于0.8的结果
        print(r.message, r.dist)