LlamaIndex中的聊天存储(Chat Stores)全面指南-优快云博客

本文链接：https://blog.youkuaiyun.com/gitblog_00714/article/details/148325722

LlamaIndex中的聊天存储(Chat Stores)全面指南

llama_index LlamaIndex（前身为GPT Index）是一个用于LLM应用程序的数据框架项目地址: https://gitcode.com/gh_mirrors/ll/llama_index

什么是聊天存储？

在构建对话式AI应用时，聊天存储(Chat Stores)扮演着至关重要的角色。它专门用于管理和维护对话历史记录，确保消息的顺序性和上下文完整性。与普通数据存储不同，聊天存储需要特别关注消息的时间序列和对话流。

核心特性

聊天存储系统通常具备以下核心功能：

按用户ID或会话ID组织消息
支持消息的增删改查操作
提供持久化存储能力
支持多种存储后端

SimpleChatStore：基础内存存储

SimpleChatStore是最简单的实现，适合快速原型开发和小规模应用。

基本使用

from llama_index.core.storage.chat_store import SimpleChatStore
from llama_index.core.memory import ChatMemoryBuffer

# 初始化聊天存储
chat_store = SimpleChatStore()

# 创建带记忆的聊天引擎
chat_memory = ChatMemoryBuffer.from_defaults(
    token_limit=3000,
    chat_store=chat_store,
    chat_store_key="user1",
)

持久化选项

SimpleChatStore提供两种持久化方式：

文件存储：

chat_store.persist(persist_path="chat_store.json")
loaded_chat_store = SimpleChatStore.from_persist_path("chat_store.json")

JSON字符串：

chat_store_string = chat_store.json()
loaded_chat_store = SimpleChatStore.parse_raw(chat_store_string)

云端存储方案

对于生产环境，推荐使用云端存储方案：

1. UpstashRedis存储

特点：

完全托管的Redis服务
支持同步/异步操作
自动过期(TTL)功能

from llama_index.storage.chat_store.upstash import UpstashChatStore

chat_store = UpstashChatStore(
    redis_url="YOUR_UPSTASH_REDIS_URL",
    redis_token="YOUR_UPSTASH_REDIS_TOKEN",
    ttl=300  # 5分钟后自动过期
)

2. Azure存储

适用于微软云生态：

from llama_index.storage.chat_store.azure import AzureChatStore

chat_store = AzureChatStore.from_account_and_key(
    account_name="your_account",
    account_key="your_key",
    chat_table_name="ChatUser"
)

3. AWS DynamoDB存储

适合高扩展性需求：

from llama_index.storage.chat_store.dynamodb import DynamoDBChatStore

chat_store = DynamoDBChatStore(
    table_name="ChatSessions",
    profile_name="your_aws_profile"
)

数据库存储方案

1. PostgreSQL存储

传统关系型数据库方案：

from llama_index.storage.chat_store.postgres import PostgresChatStore

chat_store = PostgresChatStore.from_uri(
    uri="postgresql://user:password@localhost/db"
)

2. Google AlloyDB

Google的全托管PostgreSQL服务：

from llama_index_alloydb_pg import AlloyDBChatStore, AlloyDBEngine

engine = AlloyDBEngine.from_instance(
    project_id="your-project",
    region="us-central1",
    cluster="your-cluster",
    instance="your-instance"
)

chat_store = AlloyDBChatStore.create_sync(
    engine=engine,
    table_name="chat_history"
)