RAG检索增强生成技术及应用

首先，是什么？

RAG是模型生成回答前从指定知识库中精准抓取信息，再结合这些依据去生成内容，回答问题（给一个学霸配备一个随身图书馆，方便随时查阅）

核心就是：知识库（存资料）、检索器（查资料）、排序器（整理需要的资料）、生成器（写答案）

然后，为什么要用？

1. 最关键的：提升回答准确性，减少事实错误（幻觉）：RAG通过实时检索外部知识，为模型提供可靠依据，能显著降低模型“幻觉”，生成更可信的回答。

2. 解决模型知识陈旧与数据局限：大语言模型的知识受限于训练数据，RAG可以动态接入最新或专有数据源，动态实时检索，让模型保持知识更新和专业性。

3. 突破输入长度限制，处理大规模知识：模型本身有输入长度限制，RAG通过外部知识库承载大量信息，使模型能够引用超出自身处理范围的专业或详细内容。

4. 增强通用性，适配多领域任务：结合检索与生成，模型能灵活应对不同行业与用户需求，扩展应用场景，提升产品适用范围与实用性。

最后，怎么做？

它的工作流分三步：

一、数据预处理阶段：知识库构建和文档解析与清洗→文档分块（chunks）→Embedding处理

---

1.文档解析与清洗

（参考小红书：AI观察者http://xhslink.com/o/pIBrQw0R0o）

2.文档切块

3.Embedding处理

对切块后的文档进行向量化的处理，然后使用向量数据库进行存储

向量数据库：Milvus、Faiss、Elaticsearch、Chroma

二、检索阶段：查询向量数据库（相似性检索）→重排序（相关性排序）

---

1.查询向量数据库（相似性检索）

核心任务：结合语义/关键词/图进行检索

向量数据库：Milvus、Faiss、Elaticsearch、Chroma

2.reranking

核心任务：提升召回结果的相关性

如果说相似性检索是尽可能召回多的候选内容，那么重排序就是在候选里面挑出最优，根据相关性选出top-k个chunk，把真正相关的文档放在最前面，这样可以显著提高召回率，减少无关信息进入生成阶段，降低LLM计算负担和幻觉风险。

|
| |

（具体技术路径可参考小红书：荆言Winterhttp://xhslink.com/o/9iL0IYsDfZ）

三、生成阶段：模型选型 → 上下文组装 → 提示词工程（PE工程） → 生成参数调优 → 生成回答（大模型基于“带依据的上下文”输出结构化回答）

---

结合 1.用户的Query 和 2.检索器从知识库中找到的相关文本块（上下文）

生成一个最终的、连贯且信息丰富的回答，这个过程就是“增强生成”。

（PS：PE工程我们有机会单独讲，这个很重要！！！！！）

*补充1：RAG中如何对用户问题进行Query的改写？

1. 洞察问题

此处请结合大家做过的项目/实习具体场景来谈

（1）信息缺失：用户仅说 “我要还多少？”，未明确贷款合同编号、账单所属月份、还款计划类型（缺少指代主体）。

（2）表述模糊：用户问 “逾期影响大吗？”，未明确逾期时长、贷款产品类型、逾期金额（范围模糊，影响维度包括征信、罚息、催收措施等）。

（3）依赖上下文：多轮对话中，用户先问 “我逾期 3 天，能申请宽限期吗？”，接着问 “那这样还会收罚息吗？”（后一个 Query 依赖 “宽限期申请” 的上下文）。

（4）复杂多问：用户问 “我现在逾期 10 天，先还一半的话，剩下的能延期吗？另外我是担保人担保的，这会影响担保人吗？”（包含 “逾期部分还款后延期可能性”“担保人责任影响” 两个子问题）。

2. 选择策略

（1）信息缺失 / 表述模糊：零样本改写 + HyDE：

零样本改写示例：用户问 “我要还多少？” → 改写为 “您编号为【XXX】的贷款合同，XX 月的应还款金额是多少？（含本金、利息及手续费）”。

HyDE 示例：用户问 “我的还款计划是怎样的？” → 先让 LLM 生成假设答案 “用户想了解其贷款合同的分期还款计划，包含每期还款金额、还款日期、剩余期数”，再用该假设检索知识库中匹配的还款计划详情。

（2）需要全面信息：多查询生成

典型场景：用户问 “分期还款划算吗？”生成多轮查询：

“分期还款的手续费率是多少？”

“分期还款对个人征信的影响”

“分期还款的申请流程及审核时间”→ 检索后整合信息，给用户清晰的成本、影响、流程说明。

（3）多轮对话：上下文压缩与注入（LLM 总结对话历史成独立 Query 检索）

用户：“我贷款逾期 5 天了，客服说可以申请协商还款，怎么弄？”用户：“那协商期间还会算罚息吗？”→ LLM 总结上下文为 “用户贷款逾期 5 天，询问协商还款流程及协商期间的罚息计算规则”，再独立检索答案。

（4）复杂问题：问题分解

用户问 “我担保的朋友逾期了，他还了一部分，剩下的没还，我需要承担全部责任吗？另外我自己的贷款还能正常申请吗？”拆解为两个子问题：

“担保人在借款人部分还款后，剩余未还债务的责任范围”

“担保人自身贷款申请是否受被担保人逾期的影响”→ 分别检索后整合回答，确保逻辑清晰、覆盖全面。

权衡：改写增加 LLM 调用成本和延迟，简单问题直接检索更经济复杂场景值得投入

（参考小红书：赵多金AI产品经理http://xhslink.com/o/6iH3PFJvdAo）

*补充2：如何测评RAG的效果？

1. 检索阶段核心指标：精确率和召回率 其他指标：效率、鲁棒性（故意写一些错别字进行检测）

2. 生成阶段 核心指标：事实准确性（幻觉率、事实冲突率、矛盾陈述率）、信息完整性（要素召回率）、表达流畅性（因果链是否完整）

如何测？自动化评测＋人工评测（四元组标注法：陈述、来源、准确性、完整性）

（参考小红书：俊霖霖http://xhslink.com/o/1qC8UNfBXQG）

这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！

👇👇扫码免费领取全部内容👇👇

1. 成长路线图&学习规划

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）

3. 大模型视频教程

对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。

4. 2026行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5. 大模型项目实战

学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。

6. 大模型面试题

面试不仅是技术的较量，更需要充分的准备。

在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

7. 资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇