探索 MultiQueryRetriever：自动化查询优化的新方法

最新推荐文章于 2025-10-03 19:59:37 发布

原创最新推荐文章于 2025-10-03 19:59:37 发布 · 608 阅读

10 ·

CC 4.0 BY-SA版权

文章标签：

#自动化 #运维 #python

引言

在高维向量空间中进行距离检索时，查询词微小变化可能导致不同结果，而嵌入未能充分捕捉数据语义时，问题尤为明显。虽然可以通过手动调整提示进行优化，但这往往是一项繁琐的任务。MultiQueryRetriever自动化了这一过程，通过生成多个视角的查询来获取丰富的结果集。本篇文章将带你深入了解MultiQueryRetriever的使用方法。

主要内容

多重查询生成的工作原理

MultiQueryRetriever通过大语言模型（LLM）生成多种视角的查询，每种查询都会检索一组相关文档，最后取所有查询的独特并集，获得潜在的相关文档集。这种方法显著缓解了基于距离的检索局限性。

创建向量数据库

我们以Lilian Weng在RAG教程中的博客帖子为例，创建一个向量数据库。

from langchain_chroma import Chroma
from langchain_community.document_loaders import WebBaseLoader
from langchain_openai import OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter

# 加载博客文章
loader = WebBaseLoader("https://lilianweng.github.io/posts/2023-06-23-agent/")
data = loader.load()

# 分割文档
text_splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=0)
splits = text_splitter.split_documents(data)

# 创建向量DB
embedding = OpenAIEmbeddings()
vectordb = Chroma.from_documents(documents=splits, embedding=embedding)

使用MultiQueryRetriever

指定用于查询生成的LLM，其余的工作由retriever自动完成。

from langchain.retrievers.multi_query import MultiQueryRetriever
from langchain_openai import ChatOpenAI

question = "What are the approaches to Task Decomposition?"
llm = ChatOpenAI(temperature=0)
retriever_from_llm = MultiQueryRetriever.from_llm(
    retriever=vectordb.as_retriever(), llm=llm
)

# 设置日志
import logging

logging.basicConfig()
logging.getLogger("langchain.retrievers.multi_query").setLevel(logging.INFO)

unique_docs = retriever_from_llm.invoke(question)
print(len(unique_docs))

会生成如下查询日志：

INFO:langchain.retrievers.multi_query:Generated queries: ['1. How can Task Decomposition be achieved through different methods?', '2. What strategies are commonly used for Task Decomposition?', '3. What are the various techniques for breaking down tasks in Task Decomposition?']

自定义提示

如需自定义查询生成提示，可以创建PromptTemplate并实现一个输出解析器。

from typing import List
from langchain_core.output_parsers import BaseOutputParser
from langchain_core.prompts import PromptTemplate
from langchain_core.pydantic_v1 import BaseModel

# 输出解析器
class LineListOutputParser(BaseOutputParser[List[str]]):
    def parse(self, text: str) -> List[str]:
        lines = text.strip().split("\n")
        return list(filter(None, lines))

output_parser = LineListOutputParser()

QUERY_PROMPT = PromptTemplate(
    input_variables=["question"],
    template="""You are an AI language model assistant. Your task is to generate five 
    different versions of the given user question to retrieve relevant documents from a vector 
    database. Provide these alternative questions separated by newlines.
    Original question: {question}""",
)
llm = ChatOpenAI(temperature=0)

llm_chain = QUERY_PROMPT | llm | output_parser

retriever = MultiQueryRetriever(
    retriever=vectordb.as_retriever(), llm_chain=llm_chain, parser_key="lines"
)

unique_docs = retriever.invoke("What does the course say about regression?")
print(len(unique_docs))

生成的查询日志：

INFO:langchain.retrievers.multi_query:Generated queries: ['1. Can you provide insights on regression from the course material?', '2. How is regression discussed in the course content?', '3. What information does the course offer about regression?']