综述：从零构建RAG系统全面指南（含代码）

最新推荐文章于 2025-10-28 11:11:50 发布
原创 最新推荐文章于 2025-10-28 11:11:50 发布 · 744 阅读 · 12 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#RAG #检索增强生成

尽管大语言模型具备出色的推理能力和广泛的通用知识，但它们在检索精确信息、获取最新数据或提供可验证的回答时常常遇到困难。检索增强生成（Retrieval-Augmented Generation，RAG）应运而生，这一创新性方法通过将大语言模型与外部知识源相结合，有效提升了其性能。本文将深入探讨RAG的概念、重要性，并使用Python和流行的开源库从零开始构建一个完整的RAG系统。

一、RAG是什么

RAG是一种将信息检索与文本生成相结合的架构。其核心原理是在生成回答之前，从外部知识库中检索相关信息，以此增强语言模型的能力。这一过程主要包含以下几个关键步骤：

  1. 检索

    当系统接收到一个查询时，检索系统会在知识库中搜索最相关的文档或文本块。例如，当用户询问“苹果公司最新的产品有哪些”，检索系统会在包含苹果公司产品信息的知识库中进行查找。

  2. 增强

    检索到的信息会被注入到发送给语言模型的提示中。这些额外的信息为语言模型提供了更丰富的上下文，帮助它生成更准确的回答。

  3. 生成

    语言模型结合其预训练的知识和检索到的特定信息，生成最终的回答。在上述例子中，语言模型会参考检索到的苹果公司产品信息，给出如“苹果公司最新的产品包括iPhone 15系列手机、Apple Watch Series 9等”这样的回复。

RAG的出现有效解决了传统大语言模型存在的多个关键问题：

  1. 知识局限

    标准的大语言模型知识受限于训练数据，而RAG允许模型访问更新或更专业的信息。以医学领域为例，大语言模型可能在训练时使用的是几年前的医学研究成果，而RAG可以通过连接最新的医学数据库，为用户提供最新的医学研究进展和治疗方案。

  2. 幻觉问题

    大语言模型有时会生成看似合理但实际错误的信息。RAG通过将回答基于可验证的来源，大大减少了这种“幻觉”情况的发生。例如，在回答历史事件相关问题时，RAG会依据历史文献等可靠来源，避免编造不存在的事件细节。

  3. 透明度

    RAG系统中的模型能够引用其信息来源，这使得验证回答变得更加容易。在学术研究场景中，这一特性尤为重要，研究人员可以根据模型提供的来源进一步查阅资料，确保信息的准确性。

  4. 适应性

    RAG系统可以通过更新知识库来适应新信息，而无需重新训练整个模型。这意味着在面对快速变化的信息，如金融市场数据、科技新闻时，RAG系统能够及时提供最新的信息。

二、RAG的发展历程

RAG的概念在2020年由Facebook AI Research（现Meta AI）的研究人员在一篇题为“Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”的论文中正式提出。该论文建议将稀疏和密集检索器与序列到序列模型相结合，用于处理知识密集型任务。

然而，RAG背后的理念在多个领域有着深厚的根源：

  1. 问答系统

    早期的问答系统在尝试回答问题之前，就已经使用文档检索来查找相关信息。这些早期系统为RAG的发展奠定了基础，启发了将信息检索与答案生成相结合的思路。

  2. 信息检索

    搜索引擎领域数十年的研究为高效的文档检索提供了坚实的基础。从简单的关键词匹配到复杂的语义理解，信息检索技术的不断进步为RAG中的检索环节提供了有力支持。

  3. 神经信息检索

    神经网络在信息检索领域的应用，使得检索能够更加关注语义层面的意义。通过将文本转化为向量表示，神经网络可以更好地理解文本之间的语义关联，提高检索的准确性。

  4. 自然语言处理中的迁移学习

    像BERT这样的预训练语言模型的出现，使得文档表示和检索变得更加有效。预训练语言模型可以学习到丰富的语言特征和语义信息，为RAG系统中的文本处理提供了强大的工具。

随着GPT-3、GPT-4、Claude以及LLaMA等开源替代模型的兴起，RAG的受欢迎程度迅速飙升。企业很快意识到，尽管这些模型功能强大，但为了在商业应用中可靠使用，它们需要与可信的信息来源相结合。如今，RAG已成为应用大语言模型开发的基石，LangChain、LlamaIndex等框架为简化RAG的实现提供了丰富的工具。

三、RAG为何重要

RAG在人工智能领域具有诸多显著优势：

  1. 获取最新信息

    RAG系统能够访问最新的信息，克服了大语言模型知识截止的局限性。在新闻资讯、科技动态等领域，用户可以通过RAG系统获取到最新的事件报道和技术进展。

  2. 领域专业化

    通过提供特定领域的知识库，RAG可以使通用的大语言模型表现得像专业模型一样。在法律领域，结合法律条文和案例的知识库，RAG系统可以为用户提供专业的法律咨询；在金融领域，连接金融数据和市场分析的知识库，RAG系统可以为投资者提供精准的投资建议。

  3. 减少幻觉

    RAG将回答建立在检索到的文档基础上，显著降低了大语言模型生成错误信息的可能性。这一特性在医疗健康领域尤为关键，确保为患者提供的医疗建议准确可靠，避免因错误信息导致的医疗风险。

  4. 降低成本

    与微调或重新训练大型模型相比，RAG只需更改知识库就能适应新的领域，大大降低了成本。对于资源有限的小型企业或研究团

最低0.47元/天 解锁文章
AI数据技术02：RAG数据检索
gongdiwudu的专栏
10-04 7557
​ 在人工智能的动态环境中，检索增强生成（RAG）已成为游戏规则的改变者，彻底改变了我们生成文本和与文本交互的方式。RAG 使用大型语言模型（LLM） 等工具将信息检索的强大功能与自然语言生成无缝结合，为内容创建提供了一种变革性的方法。 ​
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
热门推荐
丨汀、的博客
07-08 1万+
百篇论文博文导航AI工程之路：FT、KG、RAG与Agent技术全方位探索
RAG 入门指南：从零开始构建一个 RAG 系统
mama19971023的博客
08-05 2432
在开始之前，我还是打算再次简要的介绍一下 RAG。在 Meta 的官方 Blog 上有这样一段话：这段话主要讲述了一个新的模型架构，也就是RAG (检索增强生成)的重要性和优势。可以概括为以下几点：1. 构建一个能够进行研究和上下文分析的模型虽然更具挑战性，但对未来的技术进步非常关键；2. 通过在知识密集的下游任务上微调，RAG 可以实现最先进的结果，比现有的最大的预训练序列到序列语言模型还要好；3. 与传统的预训练模型不同，RAG 的内部知识可以轻松地动态更改或补充。
（一）使用 LangChain 从零开始构建 RAG 系统|RAG From Scratch
x32sky的专栏
07-26 1055
RAG（检索增强生成）技术通过索引、检索和生成三阶段解决大模型知识局限问题。索引阶段将外部文档分割并转换为语义向量；检索阶段根据问题匹配相关文档片段；生成阶段结合检索结果输出答案。该技术突破了大模型上下文窗口限制，实现海量数据的高效利用，其核心在于将非结构化文本转化为可计算的向量表示，并通过语义匹配连接外部知识库。文中的Python示例展示了RAG的实现流程，包括文档加载、分块处理、向量存储及检索生成等关键步骤。
万字长文，彻底讲透Agentic RAG！从架构到实践，这一篇就够了
最新发布
pythonhy的博客
10-28 1146
随着我们从2024年进入2025年，AI领域的焦点正从检索增强生成（RAG）转向更具突破性的技术——智能体式RAG。
RAG与知识库搭建，手把手教你构建RAG系统
qkh1234567的博客
11-13 4780
自从发现可以利用自有数据来增强大语言模型（LLM）的能力以来，如何将 LLM 的通用知识与个人数据有效结合一直是热门话题。关于使用微调（fine-tuning）还是检索增强生成（RAG）来实现这一目标的讨论持续不断。检索增强生成 (RAG) 是一种使用来自私有或专有数据源的信息来辅助文本生成的技术。它将检索模型（设计用于搜索大型数据集或知识库）和生成模型（例如大型语言模型 (LLM)，此类模型会使用检索到的信息生成可供阅读的文本回复）结合在一起。
终极指南：大模型检索增强生成（RAG）全面综述，优快云最详尽解析，一篇文章掌握RAG精髓！
2301_82000445的博客
08-15 1902
是什么：RAG 是一种通过检索外部知识库来获得额外语料，并使用 ICL（In-Context-Learning，上下文学习）来改进 LLM 生成效果的范式。为什么：LLM 受训练语料的限制，无法感知最新的内容，比如 LLM 训练后的新闻；此外，LLM 也容易产生幻觉，生成不正确的内容。如何做：当用户发起一个生成请求时，首先基于用户的 prompt 来检索相关信息，然后这些信息会被组合到 prompt 中，为生成过程提供额外的上下文，最后将组合后的 prompt 输入 LLM 生成结果。
RAG技术深度解析：从基础Agent到复杂推理Deep Search的架构实践
03-07 1564
在自然语言处理领域，传统问答系统往往面临两大难题：如何突破模型知识边界？如何保障回答的可信度？RAG（Retrieval-Augmented Generation）架构应运而生。而当我们以工程视角实现RAG时，就需要一个标准化的载体——RAG Agent。
从零搭建可运行的Agent系统：实战指南与源码分享
结合描述内容可知，该指南不仅涵盖理论层面的概念解析，更注重实操性，从零开始指导用户完成整个系统的搭建过程。 首先，“Agent”在此语境下指的是具备一定自主性、感知环境、处理信息并采取行动的软件实体。一个...
手把手带你徒手打造一个RAG系统！
瓦罗兰特顶级C位的博客
07-04 782
在AI的世界里，我们惊叹于大语言模型（LLM）的博学与聪慧，但你是否也曾遇到过它们的“窘境”？
RAG(检索增强的生成式模型)项目的搭建
rosemary1225的博客
07-04 2725
embeddings=self.embedding_fn(documents), # 每个文档的向量。RAG（Retrieval Augmented Generation），通过检索的方式增强生成模型的能力。query--> 检索-->prompt-->LLM-->回复。同一个语义，用词不同，可以导致检索不到有效的信息。其中，前三部是离线操作的，需要再系统上线前做好。''' 检索向量数据库 '''且OpenAI的向量模型是支持跨语言的。图中左侧是对话的结果，右侧是检索的结果。# 向向量数据库总添加文档。
从 0 开始搞定 RAG 应用系列（第一篇）：构建简单 RAG
m0_63171455的博客
09-09 1903
大家都知道 LLM 的能做的事情很多，但是有一些工作它是无法做到的，那就是领域知识和最新的知识。领域知识一般指企业里面私有化的数据，因为这部分的知识 LLM 是无法获取和知道的。LLM 训练的数据是基于比较老的数据 ，然而最新的信息它也无法知道，这部分的数据一般的情况是基于 RAG 来实现（目前可以联网的 LLM 也是基于 RAG 实现的）。RAG，即检索增强生成（Retrieval-Augmented Generation），是一种结合了信息检索技术与语言生成模型的人工智能技术。
RAG技术全解析：打造下一代智能问答系统
alysblmd
05-13 1万+
检索增强生成（RAG）技术通过结合大型语言模型（LLM）和外部知识库来克服传统语言模型在特定领域任务上的局限。RAG通过索引、检索和生成的三步流程，增强了语言模型的能力，提高了生成内容的准确性和相关性。本文详细介绍了RAG的工作原理、实现过程和评估方法，并展望了其在多模态领域的应用前景。RAG不仅优化了问答系统的性能，还通过多样的技术整合和灵活的检索过程，推动了智能问答系统的发展。
【AI大模型】如何构建一个RAG应用？入门新手攻略！
Gaga246的博客
01-13 944
Retrieval Augmented Generation RAG 检索增强的内容生成。 从字面上来看检索只是一种手段途径，在人工智能领域中存在多种增强大语言模型输出的方式，而检索只是其中一种。不同于传统应用的检索，RAG中的检索更像是大语言模型能力的扩展，它的侧重点在于如何通过检索出来的信息，让大模型生成出更优质的内容。
小学生也能听得懂的大模型 - Transformer 1
2401_85325557的博客
07-29 1573
参考 [小学生也能听得懂的大模型 Transformer 1]
手搭一个大模型-part2-构建一个RAG
qq_60489376的博客
05-20 1502
LLM 的底层设计机制决定了其生成的回答本质上是基于概率而非既定事实。由于 LLM 缺乏自行校准生成内容的能力，这项工作通常由人类来完成，导致只要生成的内容符合其语言逻辑，即使与事实大相径庭，LLM 也会毫不犹豫地输出。在人们看来，这就像是一本正经地胡说八道。幻觉问题难以从根源上解决，因为这种概率性也是 LLM 能展现出创新性的关键所在，但我们可以通过一些方法提高模型回答的准确性。其中RAG就是解决这个’幻觉’问题的方法之一。RAG全称为Retrieval-Augmented Generation。
打造一个聪明又靠谱的RAG解决方案：微软的从零到一的最佳实践指南
weixin_72959097的博客
05-27 945
想让语言模型处理你的专属数据？比如公司内部文档、行业报告，或者一堆PDF文件？那RAG就是你的好帮手！RAG是一个让语言模型结合外部数据的“神器”，既能精准回答问题，又能避免模型“胡编乱造”。微软的《Rag Solution Design and Evaluation Guide》详细介绍了RAG的构建步骤和最佳实践。本文带你走进RAG的开发世界，用通俗的语言拆解它的核心步骤，帮你从零开始设计一个靠谱的RAG解决方案。
快速搭建RAG的七种方法——从无代码到技术框架
成为全栈工程师中（商业、产品、开发、管理）
07-14 1269
实现方法核心特点优势局限性扣子工作流低代码/无代码流程编排，通过可视化界面连接检索与生成模块快速部署，适合非技术用户；支持拖拽式设计灵活性低，难以定制复杂逻辑；依赖平台功能扩展扣子智能体集成智能体能力（如动态决策、工具调用），支持多轮交互和个性化响应适应复杂查询（如多跳推理）；支持实时调整策略依赖预设模板，复杂场景适配能力有限Dify智能体结合RAG与智能体框架，强调自动化工作流和API集成企业级扩展性；开发效率高，支持模块复用灵活性受限，难以处理复杂推理任务基础Python编程。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大模型之路

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值