学会使用langchain+openai+qdrant建立第一个RAG应用

本文链接：https://blog.youkuaiyun.com/python12345_/article/details/143203772

LLM 支持的最强大的应用程序之一是复杂的问答 (Q&A) 聊天机器人。这些应用程序可以回答有关特定源信息的问题。这些应用程序使用一种称为检索增强生成 (RAG) 的技术。

什么是 RAG？

RAG 是一种通过附加数据增强 LLM 知识的技术。

LLM 可以推理广泛的主题，但它们的知识仅限于它们接受训练的特定时间点的公共数据。如果你想构建能够推理私有数据或模型截止日期后引入的数据的 AI 应用程序，则需要使用模型所需的特定信息来增强模型的知识。将适当的信息插入模型提示的过程称为检索增强生成 (RAG)。

典型的 RAG 应用程序有两个主要组件：

索引：从源中提取数据并对其进行索引的管道。这通常是离线进行的。
检索和生成：实际的 RAG 链，它在运行时接受用户查询并从索引中检索相关数据，然后将其传递给模型。

从原始数据到答案的最常见完整序列如下所示：

索引

加载：首先，我们需要加载数据。这是通过文档加载器完成的。
拆分：文本拆分器将大型文档拆分成较小的块。这对于索引数据和将其传递给模型都很有用，因为大块更难搜索，并且不适合模型的有限上下文窗口。
存储：我们需要一个地方来存储和索引我们的拆分，以便以后可以搜索它们。这通常使用 VectorStore 和 Embeddings 模型来完成。

检索和生成

\4. 检索：给定用户输入，使用检索器从存储中检索相关文档块。

\5. 生成：ChatModel/LLM 使用包含问题和检索到的数据的提示生成答案。

接下来我将按照上述步骤，使用 LangChain + OpenAI + Qdrant 实现一个简单的 RAG 应用。

Qdrant 是一种 VectorStore（向量数据库）。我们可以将文档块的嵌入表示存储在 VectorStore 中。

加载 & 拆分

我将使用 GPT4All 的技术报告来作为我们这个 RAG 应用的数据源，你可以在项目的 data 目录下看到名为《2023_GPT4All_Technical_Report》的 PDF 文件。

第一步是导入我在环境变量中设置的 OpenAI 的配置信息：

在这里插入图片描述

然后就可以配置 LLM 和 embedding 模型了：
在这里插入图片描述

1. 加载 PDF 文件

在这里插入图片描述

2. 拆分

虽然我们加载的文档并不长，但是在你可能会加载更长的文档。当文档过长时，就无法放入许多模型的上下文窗口中（一般模型的上下文窗口只有 32k或者 64k）。

为了解决这个问题，我们将文档拆分成块以进行嵌入和向量存储。这应该有助于我们在运行时仅检索文档中最相关的部分。

在这种情况下，我们将文档拆分成 1000 个字符的块，块之间有 200 个字符的重叠。重叠有助于减轻将语句与与其相关的重要上下文分离的可能性。我们使用 RecursiveCharacterTextSplitter，它将使用常用分隔符（如换行符）递归拆分文档，直到每个块的大小合适。这是针对一般文本用例的推荐文本拆分器。

我们设置 add_start_index=True，以便每个拆分文档在初始文档中开始的字符索引保留为元数据属性“start_index”。

可以看到是两个块之间是有重叠的：

存储

3. 存储

我们将使用语义搜索实现检索功能，所以最常见的方法是嵌入每个文档拆分的内容，并将这些嵌入插入到 VectorStore 中。

当用户输入查询后，查询也会被转成嵌入向量，然后执行某种“相似性”搜索，以识别与我们的查询嵌入最相似的嵌入的文档块。最简单的相似性度量是余弦相似性：测量每对嵌入（高维向量）之间角度的余弦。

现在我们将使用 OpenAIEmbeddings 模型在单个命令中嵌入所有文档块。并使用 Qdrant 存储。

默认使用的 OpenAI 嵌入模型是 text-embedding-ada-002，它将文本转成 1536 维的向量。所以我们可以这样初始化 Qdrant：
在这里插入图片描述

我们创建了一个名为 demo_collection 的 VectorStore，现在我们将文档块加进去：
在这里插入图片描述

检索 & 生成

现在让我们编写实际的应用程序逻辑。我们想要创建一个简单的应用程序，它接受用户问题：

搜索与该问题相关的文档，
将检索到的文档和初始问题传递给模型，并返回答案。

4. 检索

首先，我们需要定义搜索文档的逻辑。LangChain 定义了一个 Retriever 接口，它包装了一个索引，可以根据字符串查询返回相关文档。

最常见的 Retriever 类型是 VectorStoreRetriever，它使用向量存储的相似性搜索功能来促进检索。任何 VectorStore 都可以通过 VectorStore.as_retriever() 轻松转换为 Retriever：

retriever = vector_store.as_retriever(search_type="similarity", search_kwargs={"k": 6})

retrieved_docs = retriever.invoke("What was the cost of training the GPT4all-lora model?")

当我们检索训练 GPT4all-lora 模型花费了多少时，我们可以得到 6 段与这个问题在语义上相似的文档块：

5. 生成

让我们将所有内容整合成一个链条，该链条接收问题、检索相关文档、构造提示、将其传递给模型并解析输出。

我们将使用 gpt-3.5-turbo OpenAI 聊天模型，但你可以替换成任何 LangChain LLM 或 ChatModel。

import textwrap
from langchain.chains import create_retrieval_chain
from langchain.chains.combine_documents import create_stuff_documents_chain
from langchain_core.prompts import ChatPromptTemplate

system_prompt = (
    "You are an assistant for question-answering tasks. "    
    "Use the following pieces of retrieved context to answer "    
    "the question. If you don't know the answer, say that you "    
    "don't know. Use three sentences maximum and keep the "    
    "answer concise."    
    "\n\n"    
    "{context}"
)

prompt = ChatPromptTemplate.from_messages(
    [     
        ("system", system_prompt),        
        ("human", "{input}"),    
    ]
)


question_answer_chain = create_stuff_documents_chain(llm, prompt)
rag_chain = create_retrieval_chain(retriever, question_answer_chain)

response = rag_chain.invoke({"input": "What was the cost of training the GPT4all-lora model?"})
print(textwrap.fill(response["answer"], 80))