一文讲透 RAG 工作原理：用 11 张图说清从检索到生成的全过程（建议收藏）

关注

原创最新推荐文章于 2026-08-19 15:24:21 发布 1.2k 阅读 AI 写同款· GEO 优化 ›

一文搞懂RAG，原理，流程，最佳实践最近遇到好多人和我交流RAG相关的技术，同事在说，面试在说，甚至我多年未联系的挚爱亲朋都突然来问我RAG是个啥？要怎么搞？我印象中22年23年，讨论大模型应用，都在讲三个方向。但是随着越来越多的应用被开发出来，RAG相对另外两者稍显走弱。我们组今年甚至几乎没有RAG相关的规划，都还在之前搭的老一套上用。所以，一文搞懂RAG。为了减少的大小，可以先拼接，再总结，再发给大模型进行处理。不过这种用法很少见，一般是把这个小模型直接做在模型层面，和大模型一起做成一个混合模型，并且会做大量的意图识别的训练。阅读详情

RAG（Retrieval-Augmented Generation，检索增强生成）是一种将大型语言模型（LLM）与外部知识源动态融合的技术框架。

一、RAG的基本概念

在这里插入图片描述

其名称精准概括了三个核心环节的协同机制：

检索（Retrieval）指从外部知识库（如向量数据库）中主动查询与用户问题相关的信息片段，这一过程突破了传统LLM受限于静态训练数据的固有缺陷，通过近似最近邻搜索（ANN）算法高效定位语义相关的知识块，确保模型能够访问训练时未涵盖的新数据（如最新财报或私有文档），而非依赖预训练知识的被动回忆。
增强（Augmented） 体现在将检索到的外部知识注入到LLM的上下文窗口中，通过动态扩展输入信息的方式赋予模型实时认知能力，这种增强既避免了因重新训练LLM而产生的巨额成本，又解决了有限上下文窗口无法容纳海量补充知识的矛盾，使模型能够基于权威来源生成回答而非虚构内容。
生成（Generation） 则是LLM基于原始查询与检索结果的融合语境，执行语义理解与语言合成的终极任务，其关键价值在于将碎片化的检索内容转化为连贯、结构化且符合人类语言习惯的自然文本输出，同时自动标注知识来源（如“根据2023Q4财报第5节”），显著降低模型幻觉风险并提升结果的可信度与可解释性。

简言之，RAG通过 “主动获取-动态扩展-可信生成” 的闭环，将LLM从封闭的知识容器转变为开放的知识处理器，成为平衡实时性、准确性与成本的最优解。

二、RAG系统的七步工作流：从知识固化到智能生成

下面这张图片清晰的表明了RAG的7个工作步骤：

在这里插入图片描述

步骤1：知识分块（Chunking）——构建可检索的知识单元

外部知识（如PDF报告或私有数据库）首先被切割为语义完整的片段，这一过程需兼顾文本连贯性与嵌入模型输入限制，例如表格需保持结构完整避免跨块分割，段落则按主题边界切分，其核心目标是生成既能独立表达语义又适配向量化处理的文本单元，为后续精准检索奠定基础。

常见的分块起码有以下5种策略

步骤2：生成嵌入（Embedding）——语义的向量化映射

每个知识块通过预训练的嵌入模型（如基于Transformer的双编码器）转化为高维向量，这一过程捕捉文本的深层语义特征（如“抗过拟合技术”与“正则化方法”的关联性），使非结构化的自然语言被编码为数学空间中的可计算对象，为相似性检索提供可比对的数学表征。

这里使用的嵌入模型是“上下文嵌入模型”（不是单词嵌入模型），因此像双编码器（我们上次讨论过）这样的模型在这里高度相关。

通过一致的训练，模型可以学习不同单词在句子中如何相互关联。它了解哪些单词经常组合在一起，以及它们如何融入句子的整体含义。

这个学习过程有助于 BERT 为单词和句子创建嵌入，这些嵌入是上下文化的，这与 Glove 和 Word2Vec 等早期嵌入不同：

上下文化意味着嵌入模型可以根据单词使用的上下文动态生成单词的嵌入。因此，如果一个单词出现在不同的上下文中，模型将返回不同的表示形式。比如：苹果，可能是一个水果，也可能是一个品牌，这就需要根据上下文嵌入模型的语义理解，将“苹果”嵌入到不同的语义空间中。

步骤3：向量存储（Vector Storage）——构建动态知识记忆体

生成的向量与原始文本、元数据（如来源文档页码）共同存入向量数据库，该数据库不仅充当海量向量的高效存储器，更通过近似最近邻索引（如HNSW）支持毫秒级相似性搜索，其设计本质是将人类知识转化为机器可实时查询的“语义记忆网络”。

向量数据库充当 RAG 应用程序的内存，这是我们存储所有附加知识的地方，使用这些知识将回答用户的查询。

向量数据库还存储元数据、原始内容以及向量嵌入。

至此，我们的向量数据库已创建完成，并已添加了相关信息。如有需要，还可以在此基础上添加更多内容。

步骤4：用户查询嵌入（Query Embedding）——意图的数学表达

用户问题（如“解释RAGFlow的多模态支持”）被同一嵌入模型转化为查询向量，此时查询向量与知识块向量处于同一语义空间，使“多模态支持”等抽象概念可被量化为与数据库向量相似度计算的数学对象，实现意图的精准数学表达。

首先，用户的查询信息也会先通过Embeding模型转化为“查询的embedding”信息。

步骤5：语义检索（Semantic Retrieval）——知识库的智能筛选

查询向量通过近似最近邻算法（ANN）在向量库中快速扫描，召回Top-K个最相关的知识块（如包含“OCR提取图片文字”“表格转Markdown”的段落），此步骤融合语义匹配（向量相似度）与关键词匹配（BM25）的优势，确保结果既覆盖语义关联内容又包含精确术语命中。

步骤6：重排序（Reranking）——相关性的精细化校准

检索后，所选块可能需要进一步细化，以确保最相关的信息得到优先级排序。

初步检索结果需经交叉编码器（Cross-Encoder）进行精细化评分，该模型深度分析查询与每个知识块的交互关系（如判断“表格处理说明”是否真正解答“多模态支持”），通过重排序将最契合的片段置于前列，有效解决语义相似但主题偏离的噪声干扰问题。

步骤7：增强生成（Augmented Generation）——知识的融合与表达

LLM接收原始查询与重排序后的知识块，通过注意力机制整合信息并生成最终回复，例如综合“OCR技术”“表格转换流程”等片段输出结构化答案：“RAGFlow通过OCR提取图像文本，将表格转为Markdown以保持结构，实现多模态内容的统一语义处理”，此过程严格遵循检索依据生成文本，显著降低幻觉并提升专业性。

七步流程形成 “知识固化→意图解析→动态增强→可控输出” 的完整链条，每一步的输出均为下一步的输入，构成紧密耦合的增强回路。

RAG系统通过检索、增强、生成的精密协作，将LLM从封闭的文本生成器进化为开放环境下的认知代理，其七步流程既是技术框架亦是知识流动的管道。