DB-GPT项目中的RAG嵌入API使用详解

DB-GPT项目中的RAG嵌入API使用详解

DB-GPT DB-GPT - 一个开源的数据库领域大模型框架，旨在简化构建数据库大模型应用的过程。 项目地址: https://gitcode.com/gh_mirrors/db/DB-GPT

什么是RAG嵌入API

RAG(Retrieval-Augmented Generation)是一种结合检索和生成的技术，在DB-GPT项目中，RAG嵌入API提供了将文本转换为向量表示的能力，这对于构建智能问答系统、文档检索等应用至关重要。

环境准备

在使用RAG嵌入API之前，需要配置以下环境变量：

1. API_SERVER_BASE_URL - API服务的基础URL
2. API_SERVER_API_KEY - 访问API的密钥
3. API_SERVER_EMBEDDINGS_MODEL - 使用的嵌入模型名称

核心组件解析

OpenAPIEmbeddings类

这是DB-GPT提供的核心嵌入类，负责与嵌入API交互。它需要三个关键参数：

• api_url: 嵌入API的完整URL
• api_key: 用于认证的API密钥
• model_name: 指定使用的嵌入模型

向量存储连接器

示例中使用ChromaStore作为向量数据库，配置包括：

• persist_path: 向量索引持久化路径
• name: 向量集合名称
• embedding_fn: 使用的嵌入函数

知识处理流程

1. 知识加载：从文件路径创建知识对象
2. 分块处理：使用CHUNK_BY_SIZE策略将文档分块
3. 向量化存储：将分块后的文本转换为向量并存储
4. 检索查询：根据查询文本检索最相关的文档块

实际应用示例

async def main():
    # 加载知识文档
    file_path = os.path.join(ROOT_PATH, "docs/docs/awel/awel.md")
    knowledge = KnowledgeFactory.from_file_path(file_path)
    
    # 创建向量存储连接
    vector_store = _create_vector_connector()
    
    # 配置分块参数
    chunk_parameters = ChunkParameters(chunk_strategy="CHUNK_BY_SIZE")
    
    # 构建嵌入组装器
    assembler = EmbeddingAssembler.load_from_knowledge(
        knowledge=knowledge,
        chunk_parameters=chunk_parameters,
        index_store=vector_store,
    )
    assembler.persist()
    
    # 创建检索器并查询
    retriever = assembler.as_retriever(3)
    chunks = await retriever.aretrieve_with_scores("what is awel talk about", 0.3)
    print(f"embedding rag example results:{chunks}")
    
    # 清理测试数据
    vector_store.delete_vector_name("embedding_api_rag_test")

技术要点解析

1. 异步处理：示例中使用asyncio实现异步操作，提高I/O密集型任务的效率
2. 分块策略：支持多种分块方式，示例中使用按大小分块(CHUNK_BY_SIZE)
3. 相似度阈值：检索时可以设置相似度阈值(示例中为0.3)，过滤低相关性结果
4. 持久化机制：向量索引可以持久化到本地，避免重复计算

实际应用建议

1. 模型选择：根据任务需求选择合适的嵌入模型，不同模型在语义理解能力上有差异
2. 分块优化：调整分块大小和策略以获得更好的检索效果
3. 阈值调整：根据实际场景调整相似度阈值，平衡召回率和准确率
4. 性能监控：在大规模应用中，监控嵌入和检索的延迟指标

通过这个示例，开发者可以快速理解如何在DB-GPT项目中使用RAG嵌入API构建知识检索系统，为更复杂的AI应用打下基础。

DB-GPT DB-GPT - 一个开源的数据库领域大模型框架，旨在简化构建数据库大模型应用的过程。 项目地址: https://gitcode.com/gh_mirrors/db/DB-GPT