高级查询转换以改进 RAG

第8章:LangChain检索增强生成RAG--2.4Advanced RAG【高级RAG】 高级 RAG(Advanced RAG)通过多个模块化组件(如查询转换器、查询路由器、内容检索器、内容聚合器和内容注入器)来增强检索功能。这种实现方式提供了高度的灵活性和定制化能力,适用于需要复杂检索逻辑的场景。通过合理配置这些组件,开发者可以构建高效、智能的问答系统。 阅读详情

原文:towardsdatascience.com/advanced-query-transformations-to-improve-rag-11adca9b19d1

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/a752c107b60085e64e1cbdff0b7c82f5.png

图片由作者提供。AI 生成。

检索增强生成已经成为生成式 AI 文献中最受讨论的话题之一。随着每日博客文章和科学论文的涌入,保持更新可能具有挑战性。然而,RAG 的流行是当之无愧的,因为没有任何其他解决方案已被证明在减轻大型语言模型中的幻觉方面如此有效。

RAG 通过像维基百科页面、私有 PDF 等可靠的来源增强语言模型的一般知识。这就是为什么 RAG 最重要的步骤是确保我们的检索找到正确的文档输入到模型中。

我们非常需要 RAG,因为我们目前面临将完整文档拟合到上下文窗口的限制。原因包括模型输入的受限令牌长度、计算成本的成比例增加,以及“中间丢失”等问题,这指的是模型难以使用长输入上下文中找到的信息[2]。

<…/Images/dd63b1d3f17881d6ca39510ee4dec772.png>

模型性能与上下文窗口中相关信息位置之间的关系。[2]

如果检索到的文档太长或不相关,正如俗话所说,垃圾输入,垃圾输出。

有许多增强 RAG 的技术,这给何时应用每种技术带来了额外的挑战。在这篇文章中,我们将分析查询转换以及如何使用路由器根据输入提示选择适当的转换。

查询转换背后的想法是检索器可能不会认为用户的初始提示与数据库中的相关文档特别相似。在这些情况下,我们可以在检索和将它们提供给语言模型之前修改查询,以增加其与我们来源的相关性。

我们将从一个简单的 RAG 应用开始,通过加载关于尼古拉斯·凯奇、最佳时光(尼古拉斯·凯奇在其中出演了他的首部电视剧集)和莱昂纳多·迪卡普里奥的三篇维基百科页面。

然后,我们将文档分成 256 个字符的块,没有重叠。这些块将被嵌入并索引到 Vector Store 中,默认情况下,它将所有内容存储在内存中,但如果你想要持久性选项,有几十种选项可供选择。

WikipediaReader = download_loader("WikipediaReader")

loader = WikipediaReader()
pages = ['Nicolas_Cage', 'The_Best_of_Times_(1981_film)', 'Leonardo DiCaprio']
documents = loader.load_data(pages=pages, auto_suggest=False, redirect = False)

llm = OpenAI(temperature=0, model="gpt-3.5-turbo")
gpt3 = OpenAI(temperature=0, model="text-davinci-003")

embed_model = OpenAIEmbedding(model= OpenAIEmbeddingModelType.TEXT_EMBED_ADA_002)
service_context_gpt3 = ServiceContext.from_defaults(llm=gpt3, chunk_size = 256, chunk_overlap=0, embed_model=embed_model)

index = VectorStoreIndex.from_documents(documents, service_context=service_context_gpt3)
retriever = index.as_retriever(similarity_top_k=3)

现在,我们必须确保模型只根据上下文回答,而不依赖于其训练数据,即使它可能已经学到了答案。

# The response from original prompt
from llama_index.prompts import PromptTemplate

template = (
"We have provided context information below. n"
    "---------------------n"
    "{context_str}"
    "n---------------------n"
    "Given this information, please answer the question: {query_str}n"
    "Don't give an answer unless it is supported by the context above.n"
)

qa_template = PromptTemplate(template)

我们将使用两个更复杂的查询来测试我们刚刚创建的 RAG 应用。让我们看看第一个。

查询 1 - “谁执导了标志着尼古拉斯·凯奇表演处女作的那个试播集?”

第一个具有挑战性的查询需要链接多个信息片段:尼古拉斯·凯奇的表演处女作和该特定电影的导演。提示中只提到了尼古拉斯·凯奇,而导演的名字没有在任何地方提及。

由于模型不知道标志着凯奇处女作的电视试播集的名字,即"The Best of Times",因此它无法从我们索引的文档中检索相关细节。

question = "Who directed the pilot that marked the acting debut of Nicolas Cage?"

contexts = retriever.retrieve(question)
context_list = [n.get_content() for n in contexts]

prompt = qa_template.format(context_str="nn".join(context_list), query_str=question)
response = llm.complete(prompt)

print(str(response))

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/2a4e77c31e7560440a22967deb5b51cf.png

第一个查询的简单 RAG 输出。图片由作者提供

查询 2 - “比较尼古拉斯·凯奇和莱昂纳多·迪卡普里奥所接受的教育。”

对于第二个查询,检索器只选择了关于莱昂纳多·迪卡普里奥教育的相关文本片段。关于尼古拉斯·凯奇的片段不相关,因此我们无法进行准确的比较。

question = "Compare the education received by Nicolas Cage and Leonardo DiCaprio."

contexts = retriever.retrieve(question)

context_list = [n.get_content() for n in contexts]

prompt = qa_template.format(context_str="nn".join(context_list), query_str=question)

response = llm.complete(prompt)
print(str(response))

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/d113fcfcc4b466f914670563a733eaac.png

第二个查询的简单 RAG 输出。图片由作者提供。

让我们分析一些查询转换技术,并看看每种情况下哪种效果最好。

HyDE

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/94a16cca448272004482420ee2546510.png

HyDE。图片由作者提供。

假设文档嵌入(HyDE)是一种生成文档嵌入以检索相关文档的技术,而无需实际训练数据。首先,一个 LLM 针对查询创建一个假设答案。在反映与查询的相关性模式的同时,这个答案包括可能不是事实准确的信息。

接下来,将查询和生成的答案都转换成嵌入。然后系统识别并从预定义的数据库中检索与这些嵌入在向量空间中最接近的实际文档。

<…/Images/a608957d3805c012c3139ccb7f15e491.png>

HyDE 模型的说明 [3]

from llama_index.indices.query.query_transform import HyDEQueryTransform
from llama_index.query_engine.transform_query_engine import (
    TransformQueryEngine,
)

index = VectorStoreIndex.from_documents(documents, service_context=service_context_gpt3)
query_engine = index.as_query_engine(similarity_top_k=3)

hyde = HyDEQueryTransform(include_original=True)
hyde_query_engine = TransformQueryEngine(query_engine, hyde)

查询 1

response = hyde_query_engine.query("Who directed the pilot that marked the acting debut of Nicolas Cage?")
print(response)

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/78fbda403f9997d8805688fae893f5d1.png

第一个查询的 HyDE RAG 输出。图片由作者提供。

我们已经取得了一些部分进展——模型的答案仍然不正确,但它已经更接近正确答案。具体来说,它现在能够识别电视试播集的名字(“Best of Times”)。让我们看看这个幻觉答案是什么样的。

query_bundle = hyde("Who directed the pilot that marked the acting debut of Nicolas Cage?")
hyde_doc = query_bundle.embedding_strs[0]
hyde_doc

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/ff9280d401fd33b412d13508b4ebb6c3.png

第一个查询的 HyDE 输出。图片由作者提供。

虽然弗朗西斯·科波拉并没有执导"The Best of Times",但至少幻觉中包含了电影的名字。

查询 2

response = hyde_query_engine.query("Compare the education received by Nicolas Cage and Leonardo DiCaprio.")
print(response)

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/369f462ffa53426f53dd267d7deb09f4.png

第二个查询的 HyDE RAG 输出。图片由作者提供。

答案是正确的,因为虚构的答案显著提高了输出质量。LLM 在训练数据中已经有了关于演员教育的信息。

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/f6743b8f72d2523396401f6009c120bb.png

第二个查询的 HyDE 输出。图片由作者提供。

子问题

子问题技术使用分而治之的方法来处理复杂问题。它首先分析问题,并将它们分解成更简单的子问题。每个子问题针对可以提供部分答案的不同相关文档。

然后,该引擎收集中间响应并将所有部分结果综合成一个最终响应。

# setup base query engine as tool
query_engine_tools = [
    QueryEngineTool(
        query_engine=vector_query_engine,
        metadata=ToolMetadata(
            name="Sub-question query engine",
            description="Questions about actors",
        ),
    ),
]

query_engine = SubQuestionQueryEngine.from_defaults(
    query_engine_tools=query_engine_tools,
    service_context=service_context,
    use_async= False
)

查询 1

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/d275d355ec525c13dbd0bb979b1095b6.png

第一个查询的子问题 RAG 输出。图片由作者提供。

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/6ea357091917a4cc0ab90f5f9dce32f6.png

为第一个查询生成的子问题。图片由作者提供。

没有方法可以将这个问题分解成更简单的子问题,使其更容易回答。模型尝试生成一个子问题,但没有提供任何超出原始查询的额外上下文,浪费了在无效转换上的计算。

查询 2

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/23e3296d9c2f5b73b10da1025e6fc841.png

第二个查询的子问题 RAG 输出。图片由作者提供。

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/9bee73640abc46beeafac3de835b87dc.png

为第二个查询生成的子问题。图片由作者提供。

这次,生成子问题非常有用,因为我们需要比较两段不同的信息——两个人的教育背景。每个子问题都可以独立使用检索到的上下文来回答。

多步查询转换

<…/Images/05b69342e90726597cfa08725f4908cd.png>

自问 + 搜索引擎 [1]

多步查询转换方法基于自问方法,其中语言模型在回答原始问题之前,先向自己提问并回答后续问题。这有助于模型结合它在预训练期间分别学习到的事实和见解。

原始论文显示,LLM 往往无法将两个事实组合在一起,即使它们各自独立知道。例如,一个模型可能知道事实 A 和事实 B,但无法推断 A 和 B 的共同含义。

自问方法旨在克服这一限制。在测试时,我们只需向模型提供提示和问题。然后,它自动生成任何必要的后续问题,以连接事实、组成推理步骤并决定何时停止 [1]。

query_engine = MultiStepQueryEngine(
    query_engine=query_engine,
    query_transform=step_decompose_transform_gpt3,
    index_summary=index_summary
)

查询 1

Don Mischer 指导了标志着尼古拉斯·凯奇演艺生涯开端的试映。

这是我们第一次对这个查询得到正确答案!让我们看看中间问题。

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/cdfa4ca43ac7750f250cda1ea375302b.png

多步骤查询引擎第一次查询的输出。图片由作者提供。

第一个子问题的输出如下:

标记尼古拉斯·凯奇演艺生涯开端的《最佳时光》飞行员并非由科波拉家族中的任何人执导。它是由罗德·阿马图执导的。

在识别出飞行员姓名后,第二个子问题现在具体询问导演:

谁执导了标记尼古拉斯·凯奇演艺生涯开端的《最佳时光》飞行员?

这种多步骤方法帮助模型利用先前问题的额外上下文,并引导我们得到正确答案。

查询 2

尼古拉斯·凯奇在加州大学洛杉矶分校戏剧、电影与电视学院接受了戏剧、电影和电视领域的教育。另一方面,莱昂纳多·迪卡普里奥就读于洛杉矶中心研究学校、种子小学和约翰·马歇尔高中。然而,迪卡普里奥高中辍学,后来获得了普通同等学历证书。

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/b47c3a8ae671e43704737dd5a753d6a2.png

多步骤查询引擎第二次查询的输出。图片由作者提供。

在这个案例中,多步骤方法也很有用。我们的观点是,对于第二个查询,之前使用的子问题技术更适合,因为它可以并行化。这些问题是独立的,不需要相互依赖。但多步骤方法也可以很有用。

路由查询引擎

每个查询转换都针对不同的情况证明是有用的。子问题分解最适合可以分解成更简单子问题的查询,例如比较尼古拉斯·凯奇和莱昂纳多·迪卡普里奥的教育。

多步骤转换最适合需要迭代探索上下文的查询,例如链接信息的多个方面。

简单查询可能根本不需要任何转换,应用它们将是资源的浪费。

为了处理选择所有这些情况,我们可以使用一个路由查询引擎——我们给一个 LLM 提供一系列查询转换工具,并让它根据输入提示决定应用最佳的一个。

query_engine = RouterQueryEngine(
    selector=PydanticSingleSelector.from_defaults(),
    query_engine_tools=[
        simple_tool,
        multi_step_tool,
        sub_question_tool,
    ],
)

我们创建了一个路由器,允许在不需要转换、子问题分解或多步骤转换之间进行选择,具体取决于每个独特的查询。让我们看看路由器是如何推理选择哪种方法的。

首先,我们将选择一个非常简单的问题,它不需要任何转换。

response_1 = query_engine.query("What is Nicolas Cage's profession?")

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/7e041a891fbe8b5c00dce7f6007bb72b.png

路由查询引擎输出选择 simple_tool。图片由作者提供。

路由器通过评估查询相对简单,做出了正确的选择。由于它直接询问尼古拉斯·凯奇职业的单个事实,因此不需要查询转换来分解或扩展这个问题。

response_2 = query_engine.query("Compare the education received by Nicolas Cage and Leonardo DiCaprio.")

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/bf7b31cb066f0eba4db790854357e5e3.png

路由查询引擎输出选择子问题工具。图片由作者提供。

为了回答一个比较性问题,路由器准确地将其分解为关于每个个体的更简单的子问题。

response_3 = query_engine.query("Who directed the pilot that marked the acting debut of Nicolas Cage?")

https://github.com/OpenDocCN/towardsdatascience-blog-zh-2024/raw/master/docs/img/58718199e52d06980c0eb04db457a25d.png

路由查询引擎输出选择多步工具。图片由作者提供。

对于第三个查询,路由器认识到正确回答需要链接多个上下文信息——具体来说,是识别标志着凯奇演艺生涯开始的试播集,然后确定该试播集的导演是谁。

结论

正如我们所探讨的,通过高级查询转换增强 RAG 可以显著提高模型性能。

虽然查询转换只是提高检索的许多技术之一,但它展示了将检索与 LLM 固有的推理能力相结合的定制分析潜力和需求。

. . .

如果您喜欢这篇文章,请加入*文本生成**——我们的时事通讯每周有两篇关于生成式 AI 和大型语言模型的最新见解的文章。*

_ 您可以在GitHub上找到这个项目的完整代码。_

您也可以在领英上找到我。

. . .

参考文献

  1. 测量和缩小语言模型中的组合性差距

  2. 迷失在中间:语言模型如何使用长上下文

  3. 无需相关性标签的精确零样本密集检索

提高RAG性能的高级查询转换 每日推荐一篇专注于解决实际问题的外文,精准翻译并深入解读其要点,助力读者培养实际问题解决和代码动手的能力。 阅读详情

相关推荐

Switch游戏安装新思路:抛弃Commander One,试试这款免费的Mac神器OpenMTP

本文介绍了Mac用户安装Switch游戏的新选择——免费工具OpenMTP,对比收费软件Commander One,OpenMTP在MTP连接稳定性和文件管理上更具优势。详细解析了OpenMTP的安装配置、核心功能及实战操作,帮助用户高效完成游戏安装,特别适合已破解并安装DBI的Switch用户。

weixin_30664051的博客 594

AI实践与学习6-RAG流程优化学习

RAG流程很多细节优化点,助力AIGC。

xiaosi的博客 1386

基于STM32F103C8T6单片机设计CAN接口8路继电器控制板硬件(原理图+PCB)+软件源码

基于STM32F103C8T6单片机设计CAN接口8路继电器控制板硬件(原理图+PCB)+软件源码,仅供学习及设计参考。

GJZGRB的博客 1420

高级模块化RAG之6大模块解析

模块化RAG包括六个主要模块:索引、预检索、检索、后检索、生成和编排。

ms44的专栏 1463

潜行游戏设计:核心机制与关卡设计解析

潜行游戏作为动作游戏的重要分支,通过视觉遮蔽、声音传播和AI行为树等复杂系统,为玩家提供独特的策略体验。视觉隐蔽系统采用视野锥和光照值的双重判定,声学传播模型模拟距离衰减和材质穿透,而敌人AI行为树则包含巡逻、警戒和团队协作等状态节点。这些技术不仅提升了游戏的真实感和挑战性,还在《合金装备》《刺客信条》等经典作品中得到广泛应用。潜行游戏的关卡设计强调多路径拓扑结构和环境叙事元素,通过沙漏模型和动态难度调节,平衡自由度和开发成本。未来,基于ML的适应性AI和物理模拟的隐蔽系统将成为创新方向。

weixin_42497762的博客 183

CNN经典论文(一)LeNet

Gradient-Based Learning Applied to Document Recognition(梯度学习在文档识别中的应用) Yann LeCun, Leon Bottou, Yoshua Bengio, and Patrick Haffner 发表时间:December 1998 期刊:Proceedings of the IEEE 影响:世界上第一个卷积神经网络 论文地址:Gradient-Based Learning Applied to Document Recognition

loveling丶的博客 3599

高级RAG检索中的五种查询重写策略

本文深入探讨了 RAG(Retrieval-Augmented Generation)检索策略中的高级查询重写技术。其中重点介绍了子问题查询、HyDE 查询转换、Query2doc、回溯提示和迭代检索生成等五种查询重写策略。这些策略的目的是通过重新构造查询来更准确地定位相关信息,从而提高 RAG 系统的检索效率和答案的精确度。通过 LlamaIndex 提供的代码示例,文章展示了如何实现这些策略,并分享了一些实用技巧。在实际应用中,选择合适的查询重写方法需要根据具体问题和性能要求来权衡。

FrenzyTechAI的博客 1万+

Circos在Windows下的安装教程

这里写自定义目录标题Circos简介安装Perl 的安装Circos安装安装及解压安装Modules测试用例官方文档 Circos简介 (来源官网:http://circos.ca/software/readme/ O.INTRODUCTION部分) Circos is a program for the generation of publication-quality, circularly composited renditions of genomic data and related annot

qq_42318911的博客 1664

高级 RAG 技术:查询转换与查询分解

RAG准确性受限于查询质量,易因表述模糊导致检索偏差。主流优化方向为查询转换(如Fan-Out并行检索、RRF重排、HyDE假设文档嵌入)与查询分解(高抽象后退提示、低抽象思维链检索),二者常协同提升召回率与答案质量。

deephub 776

RK3588在线更新系统内核的方法

《RK3588设备在线升级系统内核方法》 本文介绍了RK3588设备在线升级系统内核的简易方法。通过将新内核文件boot.img拷贝至目标主机后,使用dd命令配合关键参数(fsync确保写入磁盘、notrunc避免截断分区)进行安全更新,更新后需执行sync同步操作并重启生效。文章特别强调操作过程中断电风险,并扩展说明了Uboot的类似更新方法。该方法避免了现场设备拆卸的麻烦,为嵌入式系统维护提供了实用解决方案。

荻夜的博客 1051

小白也能懂!一步步教你用FPGA加速YOLO目标检测(入门篇)

安装到 PYNQ 开发板中。该库为 PYNQ 平台提供了对量化神经网络(如 YOLO)的硬件加速支持。确保你的电脑已连接到外网,如 WiFi 或热点(手机热点理论上也可用,未实测)。当你看到安装成功的提示后,打开 Jupyter Notebook,你会发现在。趁这个机会,泡了杯茶,刷了会儿手机,顺便感慨了一下开源社区的强大……页面中多出了一些新的项目文件夹 —— 这就是我们刚才安装的。参数,浅拷贝只克隆最近一次提交,减少数据量,避免超时问题。初始化,打开该文件,即可运行我们的Tiny YOLO。

FJN110的博客 1599

高级RAG检索中的五种查询重写策略_用于检索增强的大型语言模型的查询重写

检索增强生成 (RAG) 作为人工智能 (AI) 领域的一项重要技术,近年来得到了飞速发展。它将基于检索模型和基于生成的模型相结合,利用海量外部数据,生成更具信息量、更准确、更具语境相关性的回复。检索策略是 RAG 系统的关键组成部分,它直接影响着系统的性能和效率。在各种检索策略中,查询重写凭借其能够优化和改进检索过程,确保 AI 系统获取最相关信息的优势,成为了研究的热点。本文将深入探讨查询重写的机制、优势、挑战以及未来发展趋势,以期为相关研究和应用提供参考。

python12222_的博客 1657

【人工智能之深度学习】23. 推荐系统升级实战:LightGCN重构协同过滤全流程(Amazon-Beauty数据集+完整代码)

摘要:传统协同过滤(如矩阵分解)在电商推荐中存在三大痛点:忽略用户-物品高阶关联、交互数据稀疏导致冷启动、特征工程依赖人工设计。本文基于Amazon-Beauty数据集(含20万+用户交互),用LightGCN图神经网络重构推荐系统:1)构建用户-物品二部图,通过3层图卷积捕捉“用户→物品→用户”的多跳关联;2)采用BPR负采样损失优化嵌入学习,缓解数据稀疏;3)端到端输出用户/物品嵌入,无需人工特征。

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1497

初级 RAG vs高级 RAG,到底有什么区别?

如今,LLM 的内容生成能力早已改变了世界。这些模型在创造新内容和给出智能回复这类任务上表现出色,推动了生成式 AI 领域的发展。不过,虽然模型被喂了大量的数据进行训练,但受限于难以获取实时最新的信息,LLM 无可避免地会给出过时的答案或错误的信息,即所谓的信息幻觉。为了解决这些问题,检索增强生成(RAG)的动态框架出现了。它结合了传统大模型的优势和检索系统,扩展了这些模型的用例。RAG 简单来说是一种旨在提升 LLMs 性能的策略性增强技术。

m0_48891301的博客 1218

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

RAG高级优化:一文看尽query的转换之路

本文将介绍三种query理解的方法,以增强检索增强生成(RAG)系统中的检索过程:

Z4400840的博客 1540

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

高级 RAG 技术:它们是什么以及如何使用

自早期研究引入检索增强生成(Retrieval-Augmented Generation,RAG)以来,它已成为处理大型语言模型(LLMs)的主流方法。从本质上讲,RAG 从各种来源收集知识,并使用语言模型生成答案。然而,对于基本的 RAG(也称为朴素 RAG),在处理复杂查询时可能难以获得准确结果,并且在处理大型数据集时会面临响应时间慢和成本高的问题。为了解决这些挑战,研究人员开发了多种高级 RAG 技术。本文概述了这些高级方法,以帮助你在朴素 RAG 不足时获得更好的结果。

Whoisbug的博客 1073

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

你的RAG出错了?快来Get这份改进秘籍

原始 RAG 框架在提升检索和生成答案质量方面,还有一些关键问题没解决:找出来的文档真的跟用户问题相关吗?有时候可能找偏了。找到的内容够不够回答用户的问题?会不会信息量不足?会不会有一堆没用的信息混进来,反而把答案搞乱了?检索速度够快吗?会不会让用户等太久?万一检索到的信息没法生成好答案,我们该怎么办?从上面这些问题,我们可以得出两个关键结论:首先,得给我们的 RAG 系统装上一个“质检员”——也就是一个强大的评估模块。

m0_59164520的博客 2961

从基础到进阶:初级 RAG 与高级 RAG 的核心区别,一篇文章讲透

从基础到进阶:初级 RAG 与高级 RAG 的核心区别,一篇文章讲透

AI大模型的博客 1949

高级RAG检索中的五种查询重写策略,看完这一篇你就懂了!!

检索增强生成 (RAG) 作为人工智能 (AI) 领域的一项重要技术,近年来得到了飞速发展。它将基于检索模型和基于生成的模型相结合,利用海量外部数据,生成更具信息量、更准确、更具语境相关性的回复。检索策略是 RAG 系统的关键组成部分,它直接影响着系统的性能和效率。

2401_85325397的博客 1690

如何在大模型落地过程中使用高级 RAG 技术?

基本 RAG 的工作流程可分为三个步骤:索引、检索和生成。在索引阶段,文本被转换为嵌入,然后存储在向量数据库中以创建可搜索的索引。在检索步骤中,用户的查询也被转换为嵌入,此嵌入用于在向量数据库中搜索最相关的文本数据。最后,在生成步骤中,查询会使用先前检索到的相关文档进行增强,大型语言模型会使用此增强的提示来生成对用户问题的答案。高级 RAG是在基本RAG流程基础上添加了很多新步骤(子步骤)。以下是本文将讨论的增强点列表,但总体列表并不仅限于这些。

2401_84033492的博客 1431

《你的RAG出错了?快来Get这份改进秘籍》

原始 RAG 框架在提升检索和生成答案质量方面,还有一些关键问题没解决:找出来的文档真的跟用户问题相关吗?有时候可能找偏了。找到的内容够不够回答用户的问题?会不会信息量不足?会不会有一堆没用的信息混进来,反而把答案搞乱了?检索速度够快吗?会不会让用户等太久?万一检索到的信息没法生成好答案,我们该怎么办?从上面这些问题,我们可以得出两个关键结论:首先,得给我们的 RAG 系统装上一个“质检员”——也就是一个强大的评估模块。

yanqianglifei的专栏 1102

高级 RAG 查询技术实战教程(非常详细),查询转换与分解从入门到精通,收藏这一篇就够了!

检索增强生成(RAG)的基础流程是用户查询转换为向量嵌入,从向量数据库中取回相似文档,再将这些文档作为上下文送入大语言模型(LLM)生成答案。

xx_nm98的博客 371

高级检索增强生成(RAG)技术:图解综述

检索增强生成(Retrieval Augmented Generation,简称RAG)是为大型语言模型(LLM)提供从数据源检索到的信息,使其生成的答案基于这些信息。基本上,RAG就是搜索 + LLM提示,即要求模型根据搜索算法找到的信息作为上下文来回答所提供的查询。查询内容和检索到的上下文都会被嵌入发送给LLM的提示信息中。2023年,RAG是基于LLM的系统中最受欢迎的架构。有许多产品几乎完全基于RAG构建——从将网络搜索引擎与LLM相结合的问答服务,到数百个能与自有数据对话的应用程序。

m0_59235945的博客 1091
上一篇: 高级提示工程:思维链(CoT)
下一篇: 先进的检索增强生成:从理论到 LlamaIndex 实现
绝不原创的飞龙
绝不原创的飞龙 优质创作者: 人工智能、数据科学与机器学习技术领域 优质创作者: 人工智能、数据科学与机器学习技术领域
博客等级 码龄15年 4万+粉丝 2万+原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值