【LangChain】Chapter10 - Retrieval

已于 2025-01-20 17:13:07 修改
阅读量647 收藏 17
点赞数 28
CC 4.0 BY-SA版权
分类专栏： # LangChain 文章标签： langchain 人工智能
于 2025-01-19 21:12:18 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/AustinCyy/article/details/145229301

说在前面

上一节，我们介绍了语义搜索的基础知识，并做了一些实践案例,可以看到在有些情况下效果不错，但同时也能看到存在一些边缘情况。本节将介绍 检索（Retrieval）以及讲解一些解决这些边缘案例的高级方法。（视频时长11:48）

Main Content

检索（Retrieval）是检索增强生成（Retrieval Augmented Generation，RAG）的核心，指根据用户的问题去向量数据库中搜索与问题相关的文档内容。当我们访问和查询向量数据库时可能会运用到以下技术：

  • 基本语义相似度（Basic semantic similarity）
  • 最大边际相关性（Maximum marginal relevance，MMR）
  • 过滤元数据
  • LLM辅助检索

本节将介绍几种检索方法，以及解决前述’Failure modes‘的技巧。

在这里插入图片描述

前置工作

1.导入环境变量和 OPENAI API

import os
import openai
import sys
sys.path.append('../..')

from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv()) # read local .env file

openai.api_key  = os.environ['OPENAI_API_KEY']

Vectorstore retrieval

Similarity Search

1.导入 Chroma 和 OpenAIEmbeddings，并做好初始化，文件内容使用的是上一节存储在 'docs/chroma/' 中的讲义数据。

from langchain.vectorstores import Chroma
from langchain.embeddings.openai import OpenAIEmbeddings
persist_directory = 'docs/chroma/'

embedding = OpenAIEmbeddings()
vectordb = Chroma(
    persist_directory=persist_directory,
    embedding_function=embedding
)

2.向量存储中一共有 209 个内容。

print(vectordb._collection.count())

在这里插入图片描述

3.下面设定 texts，并将其进行向量存储到 smalldb 中。用来做该部分的演示。

texts = [
    """The Amanita phalloides has a large and imposing epigeous (aboveground) fruiting body (basidiocarp).""",
    """A mushroom with a large fruiting body is the Amanita phalloides. Some varieties are all-white.""",
    """A. phalloides, a.k.a Death Cap, is one of the most poisonous of all known mushrooms.""",
]

smalldb = Chroma.from_texts(texts, embedding=embedding)

4.设定问题。

question = "Tell me about all-white mushrooms with large fruiting bodies"

5.在 samllbd 中做语义相似查询，k 设定为 2 返回两条相似度最高的 chunk。

smalldb.similarity_search(question, k=2)

在这里插入图片描述

我们可以看到，相似性搜索 similarity_search 返回两个文档，是texts的第一句和第二句。它们都与用户问题有关，且含义非常相近，其实只返回其中一句足以满足要求。

Addressing Diversity: Maximum marginal relevance

在 smallbd 中做最大边际相关搜索 MMR，设定返回的 chunk 数为 k=2。

smalldb.max_marginal_relevance_search(question,k=2, fetch_k=3)

在这里插入图片描述

最大边际相关（Maximum Marginal Relevance）是实现多样性检索的常用算法。

MMR的介绍

MMR会平衡结果的相关性（relevance）和多样性（diversity），以避免返回内容冗余的结果。
LangChain 的 max_marginal_relevance_search 函数使用MMR算法初步检索 fetch_k 个文档，选择前k个返回。
在这里插入图片描述

下面是一个MMR与SS（语义相似度搜索）的效果对比。

question = "what did they say about matlab?"
docs_ss = vectordb.similarity_search(question,k=3)

docs_ss[0].page_content[:100]

在这里插入图片描述

docs_ss[1].page_content[:100]

在这里插入图片描述

docs_mmr = vectordb.max_marginal_relevance_search(question,k=3)

docs_mmr[0].page_content[:100]

在这里插入图片描述

docs_mmr[1].page_content[:100]

在这里插入图片描述

Addressing Specificity: working with metadata

上一节的 Failure modes中要求只在Lecture03中搜索答案，但是结果中额外包含 Lecture01 和Lecture02 的内容。我们可以通过过滤元数据（metadata）的方式实现精准搜索，从而解决这个问题。

1.设定问题，要求查找 Lecture03 中的内容。

question = "what did they say about regression in the third lecture?"

2.初始化语义相似度搜索，添加过滤器 filter 设定对 metadata 进行过滤，要求只能来源只能是 Lecture03。

docs = vectordb.similarity_search(
    question,
    k=3,
    filter={"source":"docs/cs229_lectures/MachineLearning-Lecture03.pdf"}
)

3.打印查找到的文档可以看到过滤后，就都来自 Lecture03。

for d in docs:
    print(d.metadata)

在这里插入图片描述

Addressing Specificity: working with metadata using self-query retriever

上面的 filter 中的过滤条件是手动设置的，有没有方法可以准确识别问题中的语义从而实现元数据自动过滤呢？LangChain提供 SelfQueryRetriever 解决这个问题，它使用LLM提取query 和 filter。

1.导入 SelfQueryRetriever。

from langchain.llms import OpenAI
from langchain.retrievers.self_query.base import SelfQueryRetriever
from langchain.chains.query_constructor.base import AttributeInfo

2.定义元数据过滤条件。metadata_field_info 参数用于描述元数据中的字段及其类型和含义。这个参数的设置对检索器如何解析查询并匹配元数据非常关键。根据 metadata_field_info 信息，LLM会自动从用户问题中提取 query 和 filter，然后向量数据库基于这两项去搜索相关内容。

metadata_field_info = [
    AttributeInfo(
        name="source",
        description="The lecture the chunk is from, should be one of `docs/cs229_lectures/MachineLearning-Lecture01.pdf`, `docs/cs229_lectures/MachineLearning-Lecture02.pdf`, or `docs/cs229_lectures/MachineLearning-Lecture03.pdf`",
        type="string",
    ),
    AttributeInfo(
        name="page",
        description="The page from the lecture",
        type="integer",
    ),
]

document_content_description = "Lecture notes"
llm = OpenAI(model='gpt-3.5-turbo-instruct', temperature=0)
retriever = SelfQueryRetriever.from_llm(
    llm,
    vectordb,
    document_content_description,
    metadata_field_info,
    verbose=True
)

3.LLM提取 query 和filter，query=‘regression’ 来自用户问题，filter是 LLM 根据 metadata_field_info和用户问题设定的过滤条件。

question = "what did they say about regression in the third lecture?"

docs = retriever.get_relevant_documents(question)

在这里插入图片描述

4.可以看到成功的按照我们的要求进行了查找。

for d in docs:
    print(d.metadata)

在这里插入图片描述

Additional tricks: compression

另一种提高检索文档质量的方法是压缩。向量数据库会返回与问题相关的 chunk 中的所有内容，其中包含大量不相关的信息。LangChain提供 ContextualCompressionRetriever 对返回的完整chunk进行压缩，提取与用户问题相关的内容。可以有效提升输出质量，减少计算资源的浪费。

在这里插入图片描述

1.导入 ContextualCompressionRetriever 和 LLMChainExtractor。

from langchain.retrievers import ContextualCompressionRetriever
from langchain.retrievers.document_compressors import LLMChainExtractor

def pretty_print_docs(docs):
    print(f"\n{'-' * 100}\n".join([f"Document {i+1}:\n\n" + d.page_content for i, d in enumerate(docs)]))

3.设定压缩器。

# Wrap our vectorstore
llm = OpenAI(temperature=0, model="gpt-3.5-turbo-instruct")
compressor = LLMChainExtractor.from_llm(llm)

4.进行压缩并打印。

compression_retriever = ContextualCompressionRetriever(
    base_compressor=compressor,
    base_retriever=vectordb.as_retriever()
)

question = "what did they say about matlab?"
compressed_docs = compression_retriever.get_relevant_documents(question)
pretty_print_docs(compressed_docs)

在这里插入图片描述

我们定义了压缩器LLMChainExtractor，负责从向量数据库返回的chunk中提取信息。ContextualCompressionRetriever有两个参数，一个是压缩器LLMChainExtractor实例，另一个是vectordb检索器。

Combining various techniques

这里我们把上面的几种方法结合一下(Compression + metadata)

compression_retriever = ContextualCompressionRetriever(
    base_compressor=compressor,
    base_retriever=vectordb.as_retriever(search_type = "mmr")
)

question = "what did they say about matlab?"
compressed_docs = compression_retriever.get_relevant_documents(question)
pretty_print_docs(compressed_docs)

Other types of retrieval

vectordb并不是LangChain唯一的检索器，LangChain还提供了其他检索文档的方式，例如TF-IDF、SVM。

from langchain.retrievers import SVMRetriever
from langchain.retrievers import TFIDFRetriever
from langchain.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter

# Load PDF
loader = PyPDFLoader("docs/cs229_lectures/MachineLearning-Lecture01.pdf")
pages = loader.load()
all_page_text=[p.page_content for p in pages]
joined_page_text=" ".join(all_page_text)

# Split9
text_splitter = RecursiveCharacterTextSplitter(chunk_size = 1500,chunk_overlap = 150)
splits = text_splitter.split_text(joined_page_text)

# Retrieve
svm_retriever = SVMRetriever.from_texts(splits,embedding)
tfidf_retriever = TFIDFRetriever.from_texts(splits)

question = "What are major topics for this class?"
docs_svm=svm_retriever.get_relevant_documents(question)
docs_svm[0]

在这里插入图片描述

question = "what did they say about matlab?"
docs_tfidf=tfidf_retriever.get_relevant_documents(question)
docs_tfidf[0]

在这里插入图片描述

总结

本节介绍了关于 Retrieval 的内容。这部分的内容也是现在的 RAG 方向比较新的和充满挑战的方向，学习这部分可以多去阅读最新的文献去了解技术的动向。

基于 RAG 和大模型的工程实战:环境配置
tyler_download的专栏
11-05 427
文本给出了实现 基于 RAG 和大模型的工程环境配置
使用Nodejs基于DeepSeek加chromadb实现RAG检索增强生成 本地知识库
m0_56381003的博客
03-12 1535
使用Nodejs基于DeepSeek加chromadb实现RAG检索增强生成 本地知识库 检索增强生成（Retrieval-Augmented Generation，简称RAG）是一种结合了信息检索技术与语言生成模型的人工智能技术。RAG通过从外部知识库中检索相关信息，并将其作为提示（Prompt）输入给大型语言模型（LLMs），以增强模型处理知识密集型任务的能力。这种技术能够有效提升模型在问答、文本摘要、内容生成等自然语言处理任务中的表现。再进行这一步的时候可能因为下载的地址在国内访问会导致很慢。
【可能是全网最丝滑的LangChain教程】十二、LangChain进阶之Retrieval
Jeffray1991的博客
05-27 931
在大模型开发中，Retrieval（检索）通常指的是从一个大型知识库或语料库中查找与当前任务相关的信息或数据的过程。这种检索过程是为了解决纯基于生成（Generative）模型在处理某些复杂任务时可能出现的知识局限性问题。生成模型，如GPT或BERT，虽然能够生成连贯的文本，但它们的记忆能力有限，可能无法记住所有训练数据中的事实信息。许多 LLM 应用程序都需要一些特定的数据，这些数据不属于模型的训练集。
使用langchain与你自己的数据对话(三)：检索(Retrieval)
weixin_42608414的博客
07-27 7125
今天我们学习了很多有用的新技术比如最大边际相关性(MMR)，MMR可以让搜索结果保持相关性和多样性，这样可以避免出现冗余的搜索结果，除此之外我们可以定义元数据的过滤条件，这样向量数据库可以更加精准的搜索和问题相关的答案。
【LangChain】LangChain 中的检索器（Retrievers）
彬彬侠的博客
05-10 1006
在 LangChain 中，检索器（Retrievers） 是用于从外部数据源（如文档、数据库或网页）中获取与用户查询相关内容的组件。类型：VectorStoreRetriever：语义搜索。BM25Retriever/TFIDFRetriever：关键词搜索。MultiQueryRetriever：多查询增强。ContextualCompressionRetriever：结果压缩。EnsembleRetriever：混合搜索。SelfQueryRetriever：结构化查询。WebResearchRetr
LangChain核心模块 Retrieval——Retrievers
weixin_43787408的博客
03-25 4523
数据进入数据库，仍然需要检索，LangChain支持多种检索算法。LangChain支持易于上手的基本方法——即简单语义搜索。然而，我们还在此基础上添加了一系列算法以提高性能。检索器是一个接口，它根据非结构化查询返回文档，它比矢量存储更通用。检索器不需要能够存储文档，只需返回（或检索）它们即可。矢量存储可以用作检索器的骨干，但也有其他类型的检索器。检索器接受字符串查询作为输入，并返回文档列表作为输出。
【LangChain】检索器(Retrievers)
山鬼谣的专栏
07-23 4266
如何创建检索器加载文档创建拆分器，拆分文档创建嵌入。
LangChain核心模块 Retrieval——文本分割
weixin_43787408的博客
03-24 1947
是一个“结构感知”分块器，它在元素级别拆分文本，并为每个与任何给定块“相关”的标题添加元数据。这样做的效果是尝试将所有段落（然后是句子，然后是单词）尽可能长时间地放在一起，因为这些通常看起来是语义相关性最强的文本片段。“语义相关”的含义可能取决于文本的类型。在较高层次上，它会分成句子，然后分成 3 个句子为一组，然后合并嵌入空间中相似的句子。检索的关键部分时仅获取文档的相关部分，主要任务之一是将大文档分割为更小的块。最简单的例子是，将长文档分割成更小的块，以适合模型的上下文窗口。
easy_RAG
03-19
Easy_RAG 是一种简化版的检索增强生成（Retrieval-Augmented Generation, RAG），旨在降低开发者在实现 RAG 功能时的技术门槛。它允许用户快速上手并集成到自己的项目中，而不需要深入理解复杂的嵌入技术和向量...
从短篇到长篇：AIGC小说创作的规模化实践
最新发布
AI 原生应用开发的博客
05-13 1048
本文旨在探讨AIGC技术在小说创作领域，特别是从短篇到长篇的规模化实践中的技术实现和应用方法。我们将覆盖从基础原理到高级应用的全流程，包括但不限于：创意生成、情节发展、人物塑造、风格控制、连贯性保持等关键环节。本文首先介绍AIGC小说创作的基本概念和技术背景，然后深入探讨核心算法和数学模型。接着通过实际案例展示如何实现从短篇到长篇的规模化创作，最后讨论应用场景、工具资源和未来发展趋势。AIGC(人工智能生成内容)：利用人工智能技术自动生成文本、图像、音频等内容的过程。
探索跨语言的 RAG 应用：与 Mishnah 对话
php源码
08-01 910
我很高兴在这篇文章中分享我构建一个独特的检索增强生成 (RAG) 应用程序以与拉比文本交互的历程。MishnahBot 旨在为学者和日常用户提供一种直观的方式来交互式查询和探索 Mishnah¹。它可以帮助解决诸如快速找到相关源文本或总结有关宗教法的复杂辩论、提取底线等问题。几年前我就有这个想法，但我觉得技术还不够成熟。现在，随着大型语言模型和 RAG 功能的进步，这已经相当简单了。这就是我们的最终产品的样子，你可以在这里MishnahBot网站。图片由作者提供。
大模型开发--文搞懂LangChain(三):Retrieva
qingkahui24689的博客
08-16 942
问答（Q&A）聊天机器人的架构通常包括两个主要部分：索引和检索与生成。一、索引：数据加载：首先，需要从各种源加载数据。这些数据可以是文本文件、数据库、网页等。加载数据的过程需要使用适当的加载器（如DocumentLoaders），以便将数据以适合后续处理的形式读入系统。数据拆分：加载后的数据通常需要被拆分成较小的块或段落。这是因为大型文档难以直接搜索，并且可能无法适应模型的有限上下文窗口。拆分可以使用文本拆分器（Text Splitters）完成，它们将文档分割成更易于管理和搜索的小块。
大模型面试准备（四）：一文搞懂 LangChain 的 Retrieval 模块
2401_84033492的博客
04-04 1787
检索（Retrieval）:目的：从大量文档或知识库中检索与用户查询或任务最相关的信息。方法：使用信息检索技术，如倒排索引、向量搜索（如基于BERT的句向量搜索）或密集向量检索等，来查找与用户输入最相似的文档或段落。输出：一组与用户查询高度相关的文档或段落。增强（Augmentation）:目的：将检索到的信息有效地整合到生成过程中，以丰富模型的输出。方法：可以通过多种方式实现增强，包括简单的拼接、注意力机制（如交叉注意力）、记忆网络或更复杂的融合策略。
(八)、基于 LangChain 实现大模型应用程序开发 | 基于知识库的个性化问答 (检索 Retrieval)
weixin_43646592的博客
11-20 2078
基于 LangChain 实现大模型应用程序开发 | 基于知识库的个性化问答 (检索 Retrieval)
#LLM入门 | langchain | RAG # 4.5_检索(Retrieval)
weixin_45312236的博客
05-22 2861
MMR 算法可以实现兼具相关性与多样性的检索结果，避免信息冗余。定义元数据字段可以进行针对性过滤，提升匹配准确率。SelfQueryRetriever 模块通过语言模型自动分析语句，提取查询字符串与过滤条件，无需手动设置，使检索更智能。ContextualCompressionRetriever 实现压缩检索，仅返回与问题相关的文档片段，可以大幅提升效率并节省计算资源。除向量检索外，还简要介绍了基于 SVM 和 TF-IDF 的检索方法。
使用langchain与你自己的数据对话(四)：问答(question answering)
weixin_42608414的博客
08-01 7594
今天我们介绍了如何通过答链RetrievalQA，来检索向量数据库并回答用户的问题。其中我们介绍了几种RetrievalQA检索向量数据库的工作方式，也就是chain type方式，其实默认方式是stuff，除此之外还有map_reduce，refine, map_rerank等几种方式，它们都有各自的优缺点。同时我们还介绍了通过使用prompt模板，可以让LLM返回格式化的结果。希望今天的内容对大家学习langchain有所帮助!
【AI知识点】最大边际相关性搜索（Maximal Marginal Relevance Search，MMR）
AI完全体
11-02 1564
最大边际相关性搜索（Maximal Marginal Relevance Search，MMR） 是一种在信息检索和文本摘要生成中常用的技术，旨在平衡搜索结果的相关性和多样性。该方法通过避免检索结果中的冗余信息，使得返回的结果既与查询高度相关，又在内容上相对多样化，从而提高信息的覆盖度。
最大边界相关法（Maximal Marginal Relevance）的总结
热门推荐
Eliza1130的专栏
04-18 1万+
MMR（Maximal Marginal Relevance）是一种重新确定文档序值的方法。 具体公式如下： 由上述公式可以看出sim(Q,di)代表的是di的相关性，而sim(di,dj)代表的是di的冗余性； 而MMR的核心，即在权衡这两种性质，即redundancy=cost,relevance=benefit 具体重定序的算法如下： 解释： 为了得到最初的k个文
LangChain（0.0.340）官方文档十：Retrieval——Retrievers（检索器）
qq_56591814的博客
12-16 4375
介绍了langchain 检索器（Retriever）中的多种检索方法和算法
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值