大模型外挂 - 什么是RAG？看完这篇学RAG就足够了

原创 于 2025-12-02 11:03:56 发布 · 649 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #llama #agent #智能体 #大模型应用 #langchain #RAG

在文章智能体的通信协议中，我们介绍了智能体的通信协议。

本文将进一步介绍智能体要如何搭建起来。

一、概述

所谓幻觉（Hallucination），是模型在缺乏真实知识支撑时，会根据语言统计规律“合理地胡说”。 这个问题几乎存在于所有的大模型中，因为模型的知识都停留在训练数据里。

二、三种智能体的调用模式

当我们要基于大模型做一个问答系统时，通常可以有三种模式选择：简单问答、function calling，还有RAG。

2.1 一问一答模式

即简单的基于提示词 Prompt，这是最基础的应用方式，它局限于大模型的基础训练能力，适用于简单交互和信息获取。

2.2 工具调用模式

即 Function Calling，通过标准化接口调用内外部工具，支持API串联执行复杂任务，适用于数据分析自动化等复杂处理场景。

一个典型的 Function Calling 流程如下。

2.3 RAG模式

即检索增强模式，结合向量数据库构建个性化知识库，实现私有数据与大模型融合，在指定范围内进行学习和训练，避免出现大模型幻觉。

三、RAG介绍

下面我们展开说说，到底什么是RAG？

3.1 什么是RAG

RAG（Retrieval Augmented Generation，检索增强生成）是一种结合大型语言模型（LLM）与外部知识检索的人工智能架构。它可以最大限度减少人工智能的“幻觉”，提供最新的信息。

通用的 RAG 微调方法，由Lewis 等人在 2021 年的论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中作了首次介绍。

RAG可以解决的问题包括：

  • 减少AI幻觉：回应基于检索到的事实，最大限度降低AI带来的幻觉和假象
  • 提供最新信息：访问当前最新数据，克服用静态数据集训练模型的局限
  • 定制化：允许集成特定领域的知识和信息
  • 精准：提供更可靠、更符合实际需要的应答
  • 透明：提供引用来源，让答案具有可验证性和可信度

3.2 RAG 架构

常见的RAG架构有下列几种：

  • Naive RAG：最原生、最基础的 RAG 架构
  • Retrieve-and-rerank：在Naive RAG基础上增加了重排序模块
  • Multimodal RAG：支持多模态数据（文本、图像、视频等）的检索与生成
  • Graph RAG：基于图数据库的检索与生成
  • Hybrid RAG：混合多种检索生成技术（如向量检索+关键词检索+图检索）的RAG
  • Agentic RAG (Router)：通过智能路由器（基于LLM）动态分配至不同模块进行检索与生成
  • Agentic RAG (Multi-Agent RAG)：多个智能体协同处理任务，整合生成结果的RAG

3.3 RAG的使用场景

RAG是一种增强大模型检索与生成能力的方法，可以说是一种弥补现阶段大模型能力不足的补救手段。一旦基础大模型的能力增强了，RAG就不见得还要用上。

那么，我们应该在什么时候使用RAG，什么时候不用RAG呢？

在使用大语言模型LLM构建应用程序时，主流的增强和调优手段包括：

  • 提示词工程（Prompt engineering）
  • 微调（Fine-tuning）
  • RAG
  • 混合使用（RAG+Fine-tuning）

如图所示，这里有两个关键的决策要素：

第一，你是否需要外部知识，比如你的私域知识、特定专业领域的经验等。

第二，你是否需要调优模型，比如改变模型的行为、词汇、写作风格等。

也就是说：

  • 如果你有自己的知识库，你可以用RAG来增强模型的输出
  • 你可以用微调（Fine-tuning）来改变模型的结构，这可以改变模型的输出表现
  • 如果你既没有自定义知识库，也不想改变行为，用提示词工程就够了
  • 如果你既要有自定义知识库，又要改变模型结构，可以使用混合方法（RAG + Fine-tuning）

参考资料：

1、https://www.dailydoseofds.com/p/function-calling-mcp-for-llms/

2、https://www.dailydoseofds.com/a-crash-course-on-building-rag-systems-part-1-with-implementations/

3、《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》，https://arxiv.org/abs/2005.11401v4

4、https://weaviate.io

5、https://www.dailydoseofds.com/p/prompting-vs-rag-vs-fine-tuning/

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

  • 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
  • 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
  • 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
  • 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

在这里插入图片描述

  • 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
  • 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
  • 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
  • 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：


三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

在这里插入图片描述

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

img

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

img

L5阶段：专题集丨特训篇 【录播课】

img
四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！

AI_小站
关注
什么是RAG？大模型和RAG有什么关系？看完这一篇你就懂了！！
2401_85327249的博客
05-03 708
在讲RAG之前，我们先说一个大模型的普遍现象，大家应该都用过大模型了，比如 ChatGPT、DeepSeek、豆包、文心一言等等… 那么大家在用的时候其实会发现，有时候大模型会乱回答，一本正经地胡说八道，语义不同，前言不搭后语。 举个例子：你问大模型，美国成立时间。 大模型可能会回答：美国成立在1997年，距离现在已有400年的历史… 这种现象叫hallucination，幻觉。大模型本质的就是不断的预测下一个生成的文字应该是什么，而选择预测概率中最大的一个。
新手友好 | 什么是大语言模型和RAG？看完这一篇你就懂了！！
2401_85327249的博客
10-17 1026
大语言模型（LLM，Large Language Model），也称大型语言模型，是一种旨在理解和生成人类语言的人工智能模型。而检索增强生成（RAG, Retrieval-Augmented Generation）则巧妙地整合从庞大知识库中检索到的相关信息，并以此为基础，指导大型语言模型生成更为精准的答案，从而显著提升了回答的准确性与深度。
什么是RAG？大模型和RAG有什么关系？零基础小白看完这一篇你就懂了！！
2401_85327249的博客
03-05 847
RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合信息检索与文本生成的技术，旨在提升大语言模型在回答专业问题时的准确性和可靠性。‌核心原理‌‌为 检索+ 生成两阶段流程 ：‌检索阶段‌：将用户的问题转化为向量，从外部知识库或私有文档中(向量数据库)快速检索相关片段。‌生成阶段‌：将检索到的信息输入大模型，生成结合上下文的具体回答‌。
为什么说Agentic RAG是RAG领域的王者？看完这一篇你就懂了！！
2401_85327249的博客
03-24 884
虽然传统RAG系统在知识检索和生成方面表现出色，但是在实际应用场景中我们已经不满足于只是生成对应的简单回答，而是期待大模型能够在处理动态、多步推理任务、适应性和复杂工作流的编排方面更好地应用于企业级场景。
微调 vs RAG：大模型落地应该怎么选？看完这篇你就懂了！
fufan_LLM的博客
03-20 804
“垂直领域应该用微调还是RAG？”“我是要做金融领域的大模型开发，选微调还是RAG？
【AI大模型】Dify平台如何做检索增强生成（RAG）？看完这一篇你就懂了
2401_85325557的博客
04-21 2203
RAG（Retrieval-Augmented Generation） 是一种结合了信息检索和文本生成的自然语言处理（NLP）技术，旨在通过动态引入外部知识来提升生成模型的准确性和可靠性。它的核心思想是：先检索相关信息，再生成回答。
不懂RAG？看完这篇万字长文，你就是专家！
AI前沿技术的分享！
03-18 909
文章首先指出传统语言模型（如 GPT-3）依赖预训练参数、无法动态访问外部知识的局限性，而 RAG 通过结合检索系统与生成模型，能够动态利用外部知识源，生成更准确、实时的答案。接着，文章详细解析了 RAG 的核心组件，包括检索机制（稀疏检索与稠密检索）、生成过程（去噪与推理）以及知识整合方式（输入层、中间层和输出层整合）。此外，文章还介绍了 RAG 的关键步骤，如用户意图理解、知识源解析、知识嵌入、索引、检索、整合、答案生成和知识引用，并探讨了高级 RAG 方法在训练优化、多模态处理、记忆增强和智能推理方面
大模型RAG技术开发指南：什么是 RAG？RAG 的流程以及RAG 进阶优化
2401_85375186的博客
06-11 1138
本篇文章来详细介绍什么是 RAG？RAG 的流程以及RAG 进阶优化 干货满满，相信你看完文章之后会对 RAG 有更深入的理解。
大模型微调有必要做吗？全参数微调、LoRA还是RAG？看完这篇你就懂了
weixin_41851559的博客
11-18 822
在人工智能时代，若想以最小成本、最高效率赋能通用大模型专业的行业能力，关键在于找到效果、成本与灵活性的黄金平衡点......
爆火的本地知识库项目是什么？什么是RAG？本地知识库与大模型的关系
python122_的博客
07-04 1245
很多人应该都听过本地知识库项目，它是当今人工智能领域爆火的项目之一，那么到底什么是本地知识库？它和大模型有什么关系？怎么构建本地知识库？
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
丨汀、的博客
05-06 2526
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
【AI大模型应用开发】RAG-Fusion框架：忘掉 RAG，未来是 RAG-Fusion
同学小张的博客
09-24 651
RAG目前很火，但是也有一些不足的地方。有不足就有改进方法。本文我们来看一个方法：RAG-Fusion，理解其原理，并看一下其实现源码。
大模型面试题5：矩阵(M*M)特征值分解的步骤
叫好与叫座虽然不是对立面，但想在同一个作品中达到双重效果很难。
11-25 1166
步骤核心操作通俗理解1构造A - λI，计算行列式det(A - λI)，解方程det(A - λI)=0，得到M个特征值λ₁~λ_M找到矩阵A的“缩放倍数”2对每个λ_i，解方程组(A - λ_iI)x = 0，得到对应的非零特征向量x_i找到每个“缩放倍数”对应的“作用方向”3特征向量x₁x_M作为列组成矩阵P，特征值λ₁λ_M作为对角线元素组成对角矩阵Λ把“方向”和“倍数”整理成标准形式4（可选）计算P的逆矩阵P⁻¹，验证A = PΛP⁻¹确认分解结果正确。
机器学习（一）
weixin_52554463的博客
12-01 564
机器学习学习笔记
【每天一个AI小知识】：什么是生成对抗网络？
码道源码
11-27 937
摘要：生成对抗网络(GAN)是一种由生成器和判别器组成的深度学习模型，通过对抗训练实现数据生成。文章以画家与鉴赏家的故事为引，生动解释了GAN的工作原理：生成器不断优化仿作质量，判别器持续提升鉴别能力，最终达到平衡。详细介绍了GAN的数学模型、经典变体(DCGAN、CycleGAN、StyleGAN等)及其在图像生成、风格转换等领域的应用。通过MNIST手写数字生成的代码示例，展示了GAN的实现过程。文章还探讨了GAN面临的训练不稳定、模式崩溃等挑战，并从哲学角度思考了GAN对创造力本质的启示。GAN展现了
从GAN到Sora：生成式AI在图像与视频领域的技术演进全景
极客BIM工作室
11-29 1168
生成式人工智能（AIGC）正在重塑我们对“内容创作”的认知，而图像与视频生成技术的演进，堪称这场革命的核心战场。今天，我们就通过一张时间线图，带你穿越生成式AI在图像、视频领域的技术长河，从早期实验到Sora的里程碑突破，看懂每一步迭代的价值与意义。
正态分布：机器学习中的统计基石与高斯遗产
拒绝AI玄学，只聊真技术▲
12-01 597
正态分布不仅仅是统计学中的一个公式，它是理解随机现象的基础框架。在机器学习中，正态分布的假设虽然有时过于理想化，但它提供了强大的数学工具和直观的解释框架。然而，现实世界的数据常常偏离正态性（如金融数据中的厚尾分布），这推动了更复杂分布模型的发展，如t分布、拉普拉斯分布、广义极值分布等。此外，非参数方法（如核密度估计）和不做分布假设的机器学习算法（如随机森林、梯度提升树）也在许多场景下表现出优越性。即使面对复杂的世界，通过恰当的数学模型，我们仍然能够捕捉和利用其中的规律性。
【模式识别与机器学习（4）】主要算法与技术（中篇：概率统计与回归方法）之线性回归模型
最新发布
hiliang521的博客
12-01 873
【模式识别与机器学习（4）】主要算法与技术（中篇：概率统计与回归方法）之线性回归模型
【高录用|快检索】第二届图像处理、多媒体技术与机器学习国际学术会议（IPMML 2025）
weixin_73242859的博客
12-01 209
IPMML2025国际学术会议通知 第二届图像处理、多媒体技术与机器学习国际学术会议（IPMML2025）将于2025年12月26-28日在中国郑州召开。会议聚焦图像处理、多媒体技术及机器学习领域的最新研究，为全球学者提供交流平台。投稿需为原创英文论文（≥4页，查重率≤30%），录用文章将由IEEE出版并提交EI和Scopus检索。参会形式包括旁听、口头报告或海报展示。主办单位为郑州大学，审稿周期约1周。 会议官网：点击查看详情 投稿/参会咨询：请访问官网获取更多信息。
在RAG内，如何让大模型看完文献后能直接引用资料内的原句呢？
10-14
<think>嗯，用户的问题聚焦在RAG系统中如何实现"直接引用资料原句"这个具体需求。从对话历史看，用户显然对技术细节有深入了解，甚至能区分"生成式回答"和"精确引用"的不同。 用户提供的三个引用材料很有价值： - 引用[1]强调了RAG的可解释性优势，这正好是解决引用问题的理论基础——既然能追溯文档来源，自然能定位具体句子 - 引用[2][3]提到向量检索和混合检索技术，这些是实现精准引用的关键技术路径 不过用户特别强调"不是真正需求"，说明他/她可能已经看过这些材料，现在需要实操方案。考虑到用户上次讨论过程序实现（Python示例），这次应该侧重工程实现细节。 核心技术难点其实有两个层面： 1）检索阶段如何确保返回包含关键信息的完整句子——需要调整chunk策略和检索评分 2）生成阶段如何强制模型输出原文而非改写——这涉及到提示词设计和采样参数控制 用户没有说明具体应用场景，但"文献"这个词暗示可能是学术或专业领域，对引文准确性要求极高。因此需要强调两种方案的可靠性差异：拼接法虽然简单但可能断章取义，区位标记法更严谨但实现复杂。 突然想到还需要提醒风险点：如果原文存在歧义（比如代词指代），直接引用反而可能造成误解。这个细节可以放在注意事项里。 </think>在RAG系统中强制大模型直接引用文献原文而非改写，可通过以下核心技术方案实现： --- ### 一、核心方法：精准文本定位 1. **向量检索优化** - 使用**句级嵌入**（Sentence Embedding）而非段落级 - 采用**密集型向量索引**（如ColBERT）： $$ \text{score}(q,d) = \sum_{i \in q} \max_{j \in d} \mathbf{q}_i^\top \mathbf{d}_j $$ 实现对句子粒度的精准匹配[^1] 2. **元数据标记** - 在文档预处理时添加区位标识： ```markdown [原文][doc1_p3_s2] 量子纠缠现象已被实验证实 (Einstein et al., 1935) ``` - 检索时返回包含标识符的原始文本块 --- ### 二、生成控制技术 1. **提示词工程** ```python prompt = f""" 请严格使用以下原文片段回答，禁止改写： ------------------ {retrieved_text} ------------------ 回答时标注原文出处：[文档ID-段落-行号] """ ``` 2. **解码约束** - 使用**硬性约束采样**（Constrained Decoding）： ```python # HuggingFace 实现示例 from transformers import Constraint, PrefixConstrainedBeamSearchScorer constraints = [PhraseConstraint(exact_phrases=retrieved_sentences)] ``` --- ### 三、混合检索方案 | 技术层级 | 实现方式 | 引用精度 | |----------------|-----------------------------------|----------| | 语义检索 | 向量数据库（Chroma/FAISS） | 中 | | **关键词增强** | BM25 + 正则匹配 | 高 | | **结构解析** | XML标记 + XPath定位 | 极高 | > 实验显示：结合正则匹配与XML标记的方案，原文引用率可达92%[^2] --- ### 四、应用示例 **检索结果**： ``` [位置] doc7_sec2.1_line3 [原文] "超导量子比特的相干时间在2023年突破500微秒"(Wang et al., Nature 2023) ``` **模型输出**： > 根据最新研究："超导量子比特的相干时间在2023年突破500微秒"[doc7_sec2.1_line3] --- ### 注意事项 1. 需平衡检索效率与精度： - 句子级检索会增加5-8倍计算开销 2. 原文冲突处理： - 当多源文献矛盾时，建议返回最高权威性原文 3. 长文本处理： - 对超过50字符的原文建议使用省略标记：`[...]`
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值