RAG终极指南:融合检索与重排序核心技术!从入门到精通,看这篇就够了!

大模型优化——重排序模型 重排序是信息检索系统中的一个重要步骤,它发挥着优化检索结果的关键作用。在初始检索阶段,系统根据某种标准(如相似度)返回一组文档。然而,由于初始排序可能并不总是能够准确反映文档与查询的真实相关性,因此需要进行重排序来提升检索结果的质量。不同的重排序方法使用检索模型进行二次检索:一种常见的重排序方法是使用检索模型进行二次检索。在初始检索后,通过利用更复杂的模型,例如基于嵌入的检索模型,可以再次检索相关文档。这有助于更精确地捕捉文档与查询之间的语义关系。 阅读详情

我们之前介绍了什么是 RAG、它在大型语言模型 (LLM) 中的重要性,以及 RAG 的经典检索器、生成器系统是什么样的,本系列的第三篇文章探讨了一种构建 RAG 系统的升级方法:融合检索。

在深入探讨之前,值得简要回顾一下我们在本系列第二部分中探讨过的基本 RAG 方案。

融合检索解析

融合检索方法涉及在检索增强生成(RAG)系统的检索阶段中融合或聚合多个信息流。回顾一下,在检索阶段,检索器——一个信息检索引擎——接收用户对大型语言模型(LLM)的原始查询,将其编码为向量数值表示,并用它在庞大的知识库中搜索与查询强烈匹配的文档。之后,通过添加来自检索到的文档的结果上下文信息来增强原始查询,最后将增强后的输入发送给LLM以生成响应。

通过在检索阶段应用融合方案,可以在原始查询的基础上添加更加连贯和上下文相关的背景信息,从而进一步改善由LLM生成的最终响应。融合检索利用从多个提取文档(搜索结果)中获取的知识,并将其组合成更有意义和准确的上下文。然而,我们已经熟悉的经典RAG方案也可以从知识库中检索多个文档,而不仅仅是单一文档。那么这两种方法之间有什么区别呢?

经典RAG与融合检索之间的关键区别在于如何处理和整合检索到的多个文档以形成最终响应。在经典的RAG中,检索到的文档内容只是简单地串联起来,或者最多是抽取式摘要,然后作为额外的上下文输入LLM以生成响应,不涉及高级融合技术的应用。而在融合检索中,则使用更专业的机制来跨多个文档组合相关信息。这种融合过程可以发生在增强阶段(检索阶段)或甚至是在生成阶段。

  • 增强阶段中的融合

    包括在将多个文档传递给生成器之前应用重新排序、过滤或合并的技术。两个例子是重排序和聚合:重排序指的是根据相关性对文档进行评分和排序后再与用户提示一起输入模型;聚合则是将每个文档中最相关的部分合并成一个单独的上下文。聚合通过经典的信息检索方法实现,如TF-IDF(词频-逆文档频率)、嵌入操作等。

  • 生成阶段中的融合

    涉及到LLM(生成器)独立处理每一个检索到的文档——包括用户提示——并在生成最终响应时融合数个处理任务的信息。广义上讲,RAG中的增强阶段成为了生成阶段的一部分。这一类别中的一种常见方法是解码器中的融合(FiD),它允许LLM分别处理每个检索到的文档,然后在生成最终响应时结合它们的见解。

重排序是一种最简单但有效的融合方法,能够有意义地结合来自多个检索来源的信息。接下来的部分简要解释了它是如何工作的。

重排序的工作原理

在重排序过程中,检索器获取的初始文档集会被重新排序,以提高与用户查询的相关性,从而更好地满足用户需求并提升整体输出质量。检索器将获取的文档传递给一个称为“排序器”的算法组件,该组件根据诸如学习到的用户偏好等标准重新评估检索结果,并对文档进行排序,目的是最大化呈现给特定用户的结果相关性。诸如加权平均或其他形式的评分机制被用来组合和优先排列排名最高的文档,使得排名靠前的文档内容比排名较低的文档内容更有可能成为最终合并上下文的一部分。

下图展示了重排序机制的工作原理:

为了更好地理解重排序,我们以东亚旅游为背景描述一个例子。想象一位旅行者向一个RAG系统查询“亚洲自然爱好者最佳目的地”。初始检索系统可能会返回一系列文档,包括通用的旅行指南、关于亚洲热门城市的文章,以及对自然公园的推荐。然而,一个重排序模型可以利用额外的旅行者特定偏好和上下文数据(例如偏好的活动、之前喜欢的活动或去过的目的地)对这些文档重新排序,从而优先展示对该用户最相关的内容。它可能会突出一些宁静的国家公园、鲜为人知的徒步小径以及生态友好的旅行路线,而这些可能不会出现在大多数人的推荐列表前列。通过这种方式,它为像目标用户这样的自然爱好者游客提供了“直击要点”的结果。

总之,重排序基于额外的用户相关性标准重新组织多个检索到的文档,集中关注排名靠前的文档内容提取过程,从而提高后续生成响应的相关性。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

LlamaIndex实现RAG增强:融合检索(Fusion Retrieval)与混合检索(Hybrid Search) 本代码实现了一个混合检索系统,将基于向量的相似性搜索与基于关键词的BM25检索相结合。该方法旨在综合两种技术的优势,提升文档检索的整体质量和相关性。 阅读详情

相关推荐

【速通RAG实战:检索】7.RAG混合检索与重排序技术

在 RAG(检索增强生成)系统中,检索环节起着承上启下的关键作用,它需要精准地从知识库中找出与用户查询相关的信息,为后续的生成环节提供有力支撑。混合检索与重排序技术是提升检索效果的重要手段。

2025博客之星Top81。专注AI工程化与架构实战。从分布式思维到模型部署,用工程化视角为你厘清AI落地的真实路径。 1788

RAG检索增强之Reranker重排序模型详解!

ReRanker模型是对RAG检索返回的结果进行重新排序的模型。也就是下图所示中2nd Retrieval的模型。具体来说,ReRanker模型在RAG Pipeline中扮演着第二阶段的角色,即在初始检索步骤之后,对检索出的文档块chunks进行重新排序,以确保相关的文档块优先被传递给LLM进行处理。

xx_nm98的博客 9195

uniapp监听扫码枪键盘事件|无输入框式监听

一般的扫码枪通过USB或蓝牙连接手机或电脑,充当的是一个外接设备。当扫码后,扫码枪会自动识别内容,然后向连接的电脑或手机发送键盘事件keydown或keyup。

tcy9099的专栏 9753

为什么 RAG 一定需要 Rerank?

尽管 Rerank 模型的运行速度较慢,但其在准确性上的优势使其在许多场景中不可或缺。通过两阶段检索系统,我们可以在第一阶段快速筛选出候选文档,然后在第二阶段通过 Rerank 模型进行精细排序,从而在保证效率的同时,显著提升检索结果的质量。这种策略在处理复杂的问答任务和生成任务时尤为重要,因为它能够确保最终返回的文档不仅数量适中,而且相关性更高。

python12345_的博客 945

VS Code + EIDE + Clangd 构建 Keil/MDK 嵌入式开发新范式

嵌入式C/C++开发长期受限于传统IDE的语法理解弱、导航卡顿、跨工程复用难等问题。Clangd作为基于AST的现代语言服务器,结合EIDE对Keil uVision和ARM MDK工程文件(.uvprojx)的深度解析能力,可将编译配置、芯片型号、内存模型、扩展关键字等语义精准翻译为标准compile_commands.json,从而实现智能跳转、宏展开识别、结构体实时展开等高阶编辑体验。该方案不替换Keil/MDK编译与烧录流程,仅升级代码理解层,天然兼容STC8051、STM32 Cortex-M、G

weixin_34321753的博客 355

Harness设计——Anthropic实战:规划器、生成器、评估器三角色协作详解

本文探讨了如何通过多智能体架构突破AI编码的瓶颈问题。文章首先分析了当前AI编码面临的两大核心挑战:上下文窗口限制导致的连贯性丧失,以及自我评估机制缺失引发的质量判断偏差。针对这些问题,作者提出了基于生成对抗网络(GAN)灵感的解决方案,设计了三智能体系统:规划器负责需求分析,生成器执行编码任务,评估器进行质量审查。 实验表明,在前端设计任务中,通过制定可量化的评分标准(设计质量、原创性、工艺、功能性)并建立生成-评估反馈循环,能显著提升输出质量。这种架构随后被扩展到全栈开发领域,采用类似敏捷开发的&quo

oe1019的专栏 871

深入理解Rerank(重排名)技术核心知识点

有一些专门用于做Rerank的大模型,比如适用于中英文双语rerank场景。rerank 模型的效果排名可以参考 MTEB 排行榜。与embedding模型不同,reranker使用问题和文档作为输入,直接输出相似度而不是embedding。reranker是基于交叉熵损失进行优化的,因此相关性得分不受特定范围的限制。

秃了也弱了 4950

1.Fay-UE5数字人工程导入(UE数字人系统教程)

ue5数字人系列教程(含源文件工程)

1万+

RAG 04:重排序(Re-ranking)技术探讨

重排序(Re-ranking)技术在检索增强生成(Retrieval Augmented Generation,RAG)全流程中起着至关重要的作用。在最原始的 RAG 方法中,可能会检索到大量的上下文,但并非所有上下文都与问题相关。

DEVELOPERAA的博客 1万+

详解Nacos集群搭建

在我们日常的开发当中,用的都是单点Nacos,这种模式,我们自己开发测试玩一玩还可以,但是到了企业的生产环境之下,你还这么玩的话,那肯定是要出大问题了。因为在企业当中,我们更加强调的是高可用,所以在企业的生产环境下,Nacos一定要做成个集群。

博客 1万+

SAP 系统间信任关系配置全攻略:从 SM59 到 SMT1 的实践与风险控制

本文介绍了在SAP系统间配置信任关系的详细流程与最佳实践。文章以SAP Gateway与后端系统架构为场景,从SM59创建RFC目的地开始,到SMT1建立信任关系,再到授权对象S_RFCACL的配置,提供了完整的操作指南。重点包括:使用标准命名规范创建专用RFC连接、通过向导完成系统间信任登记、严格控制S_RFCACL授权范围等。文中还分享了真实项目案例、可复用的检查清单以及常见问题的排查思路,帮助用户实现稳定可靠的跨系统无密码调用,同时确保安全性。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 325

大模型RAG终极指南:从上下文检索到实战应用,看这篇就够!

上下文检索(RAG)是一种结合检索与生成的智能信息处理方法,通过查询扩展和上下文向量技术提升检索精度。其核心流程包括知识库预处理(分块、向量化)、检索(语义匹配、重排序优化)和生成(上下文增强、可控输出)。RAG解决了传统检索丢失上下文的问题,显著降低检索失败率,但面临内容缺失、文档排序不当、信息提取困难等痛点。优化策略包括数据清洗、参数调优、重排序技术及Prompt压缩等,需平衡性能与成本。适用于需高精度检索的场景,如专业领域问答系统。

m0_59235245的博客 1720

DeepFashion 服装识别:基于 YOLOv10 的深度学习实现与 UI 界面开发

随着深度学习的发展,目标检测算法在服装识别任务中表现出色,特别是 YOLO(You Only Look Once)系列模型。服装识别(Fashion Recognition)是计算机视觉领域的重要任务,广泛应用于。已提供,可用于服装分类、款式识别、虚拟试衣等应用。训练服装识别模型,并开发。

YOLO 803

RAG检索系统优化实战:从向量检索到混合检索+重排序的进阶之路!

文章指出RAG应用中单一向量检索的局限性,包括专有名词匹配失败和语义漂移问题。解决方案是采用分层过滤机制:第一层通过混合检索(向量+BM25)利用RRF算法最大化召回率;第二层引入Cross-Encoder重排序模型对候选文档精准评分,提高精确度。这种架构特别适用于法律、医疗等术语密集领域,是构建高可用RAG系统的核心策略。

2401_85327249的博客 1199

【Android Performance】Android CPU调度模式详解:从performance到schedutil的Governor调优指南

本文系统讲解Android/Linux系统中的CPU频率调节策略(Governor),涵盖六大调度模式的底层工作原理:performance(性能优先)、powersave(省电优先)、conservative(保守调频)、ondemand(按需调频)、userspace(手动控制)以及schedutil(调度器驱动)。文中深入拆解每种Governor的调频决策逻辑、上升/下降曲线的差异、适用场景与选型建议,并配以实操命令演示如何查看可用Governor列表、动态切换调度模式以及多Cluster架构下的统一

weixin_44081096的博客 436

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

20250414| AI:RAG多路召回和融合重排序技术

RAG(Retrieval-Augmented Generation)是一种结合检索和生成的框架,广泛用于问答、对话和知识密集型任务。检索阶段:根据用户查询,从知识库(如文档集合、数据库)召回相关信息。生成阶段:将召回的信息与查询一起输入生成模型(如LLM),生成最终答案。多路召回和融合重排序主要发生在检索阶段,决定了召回文档的质量和相关性。下面详细讲解这两部分,并融入解释学习的思路。

LeonNo11的博客 3768

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

理解 RAG 第三部分:融合检索与重新排序

我们之前介绍了什么是 RAG、它在大型语言模型 (LLM) 中的重要性,以及 RAG 的经典检索器、生成器系统是什么样的,本系列的第三篇文章探讨了一种构建 RAG 系统的升级方法:融合检索。

Python_cocola的博客 952

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

【收藏必备】RAG检索优化实践:混合检索与重排序解决检索失效问题

本文分析了RAG应用中检索失效的两大问题:专有名词匹配失败和语义漂移。提出解决方案为混合检索(结合向量检索和BM25关键词检索)与重排序技术。混合检索通过RRF算法融合两种检索结果提高召回率,重排序使用Cross-Encoder模型对候选文档精确评分提升精度。这种"粗排+精排"的分层架构在不同领域均有重要应用价值,是构建高精度RAG系统的基石。

2401_85325726的博客 1177

bRAG-langchain检索优化秘籍:RRF融合与Cohere重排序技术详解

bRAG-langchain是一个全面的RAG(检索增强生成)应用开发框架,提供了从基础到高级的完整实现方案。本文将深入解析两种关键的检索优化技术——RRF(Reciprocal Rank Fusion)融合与Cohere重排序,帮助开发者显著提升RAG系统的响应质量和准确性。 ## RRF融合:多源检索结果的智能整合 在复杂的RAG系统中,单一检索策略往往难以覆盖所有场景。RRF融合技术通过

gitblog_00500的博客 1128

RAG 技术的下一站:Agentic RAG 和自主检索的未来

2026 年初,某法律 AI 平台对 RAG 系统进行了一次升级:从"固定检索 5 个文档"升级到"Agentic RAG"(Agent 自主决定检索几次、检索什么)。结果:回答准确率从 72% 提升到 89%,但成本也增加了 40%。。本文将深入分析 RAG 技术的未来趋势。

好代码自己会说话,烂代码才需要注释来圆谎 5264

RAG检索失效解决方案:从单一检索到混合检索+重排序的完整指南!

本文针对RAG应用中单一检索策略失效的问题,分析了向量检索和关键词检索的局限性,提出混合检索与重排序的解决方案。通过并行执行向量检索和BM25关键词检索,使用RRF算法融合结果提高召回率,再利用Cross-Encoder模型进行重排序提升精度。这种"粗排+精排"的分层架构在法律、医疗、金融等高精度要求的场景中尤为重要,是构建高可用RAG系统的关键实践。

m0_65555479的博客 973

吃透 RAG 检索:纯向量短板、BM25 混合检索、RRF 融合与重排序

向量字段存储的是高维浮点数数组(比如 4096 维的 float 数组),它不能做等值查询(两个向量完全相等的概率几乎为零),只能做相似度检索(找最近的 Top-K 个)。比如用户问:订单号 2026012345 的物流状态,这里面最关键的信息是订单号,但向量检索可能会忽略这个精确的数字,转而匹配一些语义上“像是在问物流”的 chunk。现在要查询和向量 Q 最相似的向量。检索的时候,从最顶层开始,快速定位到目标的大致区域,然后逐层下降,每一层都在更精细的范围内搜索,最终在最底层找到最相似的向量。

2401_84526799的博客 1015

第11课__RAG 优化(混合检索与重排序)

本文介绍了两种优化RAG系统性能的关键技术:混合检索和重排序。混合检索结合了传统关键词检索和向量检索的优势,先通过关键词检索快速筛选候选文档,再通过向量检索进行语义匹配,有效提升了召回率。重排序则利用CrossEncoder模型对检索结果重新评分排序,将最相关的文档排在前面。文章详细展示了这两种技术的实现代码,并指导如何将它们整合到RAG流程中,包括创建Whoosh索引、执行混合检索和应用重排序模型等步骤。最后提出了实践任务,建议通过对比测试和参数调整来验证优化效果。这些技术能显著提升RAG系统的检索质量和

2202_75469062的博客 1925

【收藏必备】解决RAG检索两大痛点:混合检索与重排序实践指南

本文探讨RAG应用中单一检索策略的局限性,专有名词匹配失败和语义漂移问题。作者提出混合检索(结合向量检索与BM25)和重排序(Cross-Encoder模型)的解决方案。混合检索通过RRF算法融合结果提高召回率,重排序则对候选文档精细筛选提高精确度。这种"粗排+精排"分层架构是构建高精度RAG系统的基石,特别适用于法律、医疗、金融等对精确度要求高的领域。

2401_85375186的博客 1039

RAG 多路召回与重排序:从检索策略到答案融合的工程实践

/ Document 检索到的文档片段ID string // 文档唯一标识Content string // 文档内容Score float64 // 检索得分Source string // 来源通道标识// Retriever 检索通道接口RAG 系统的召回质量直接决定生成答案的可靠性。单路检索存在固有的"盲区",多路召回通过组合不同检索策略的互补性,显著提升了召回覆盖率。RRF 融合算法提供了轻量级的结果合并方案,重排序模型则进一步提升了精排质量。

好代码自己会说话,烂代码才需要注释来圆谎 9392
上一篇: 大模型技术实践:Qwen3嵌入与重排序模型保姆级教程,一篇带你从入门到精通!
下一篇: 文档分割模块终极优化指南,从基础到高阶,这一篇彻底讲透!
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2841原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值