RAG面试题

关注

原创 2026-09-28 10:24:10 233 阅读 AI 写同款· GEO 优化 ›

FPGA DMA IP核使用指南数据传输：支持从源地址到目标地址的数据传输。中断管理：提供中断信号，便于CPU处理传输完成事件。传输控制：支持传输大小、方向和暂停/恢复控制。阅读详情

RAG（检索增强生成）通过让AI先检索外部知识库再回答问题，有效缓解大模型幻觉。它与模型微调的本质区别在于：微调是参数化记忆，知识存于模型权重，速度快但更新成本高；RAG是非参数化外挂，知识存于外部数据库，更新灵活但需检索，适用于知识变动快场景。RAG通过语义切片、向量化索引、检索与生成等组件，将长文档浓缩并高效利用模型算力。其关键组件包括离线索引管道（处理原始数据、语义切片、升维编码、向量化索引）和在线推理管道（处理用户问题、上下文补全、语义匹配、增强上下文、自回归解码、流式输出），形成数据回流闭环。检索器与生成器可独立或联合训练，适应结构化数据库需结合意图识别、数据库查询和文档检索。RAG通过外部知识填补知识空白、减少记忆混淆，但受检索局限、文档错误和生成器固执己见等限制。

Q1：什么是RAG？

RAG 是检索增强生成（Retrieval-Augmented Generation），也就是让AI回答问题前先去外部知识库中检索相关信息，然后根据信息回答问题。从技术上说，就是将用户的问题向量化，去向量数据库中召回最相关的片段，再将这些片段作为参考资料拼接到提示词中。交给大模型组织回复给用户。通过非参数化外部知识库对参数化的大模型记忆进行补充和修正，从而减小大模型的幻觉。

Q2：RAG和模型微调的本质区别是什么?分别适用于哪些真实业务场景?

微调属于参数化记忆，知识通过反向传播训练保存到了参数权重中。好处是在回答问题时完全凭借自己的知识，速度极快。缺点是每次知识的改版，都需要重新训练，成本较高，还容易发生灾难性遗忘。

RAG属于非参数化的外挂，知识以向量的形式存储在外部知识库中，像是配了一个可以随时更换的U盘，好处是对于知识更新非常快的文档非常好用，完全不会影响模型能力。坏处是每次回答都需要检索数据库，多了延迟和成本。

业务场景：

1、电商运营、广告类的知识，宣传规则经常变化，双十一、618等等活动折扣什么的经常变化需要调整，那就需要用到RAG技术，微调根本不行。

2、法律文书、企业合同类的知识，可以直接将相关条文塞进模型进行微调，然后再搭配着RAG知识库存储相关的案例作为参考。

3、比如需要模型具有某些特定格式的输出要求，比如说企业的合同需要固定的格式输出，可以用微调增加模型的能力。

结论：当知识变动速率>模型训练周期的时候，必选RAG。

Q3：既然现在大模型支持超长上下文，为什么RAG依然是不可或缺的架构?举例说明。

比如说你有一个999页的超长文档，每次对话都要耗费几十万token，对客户的体验是毁灭的，另外模型提取关键信息的能力会随着长度的增加而变弱，因为注意力机制的权重因为超长序列而被分摊被摊薄。并且模型容易受到文档中的干扰信息影响。

而RAG本质上做的是将“问题上下文稀疏化”，把超长文档浓缩到一小片信息区域，把模型的算力用到刀刃上。

Q4：一个标准RAG系统的关键组件有哪些?请画出简要架构图并解释数据流。

一个生产级RAG系统可以抽象为“两段式流水线”:离线索引管道+在线推理管道。

离线索引管道：是在回答用户问题之前，系统提前做好的准备，为了构建可供检索的知识底座。

在线推理管道：用户发出请求那一刻才启动的实时计算链条。它必须在几百毫秒到几秒内完成所有操作，并流式返回给用户。

形态①：原始脏数据（Raw Data）

刚进系统的样子：PDF扫描件、Word带表格、企业内网HTML、Excel报表。动作：系统通过连接器（Connector）拉取，此时数据是非结构化或半结构化的二进制流。

转换1（清洗与萃取）：

OCR识别图片文字、剔除页眉页脚水印、解析表格结构。此时数据变成了纯文本流（Plain Text），但依然是一整本“长篇小说”，动辄几十万字。

形态②：语义切片（Chunks）

系统按“语义完整性”（而非机械的每100个字）切分，比如按段落或按Markdown标题层级切。一个几十页的PDF，被切成了几十个独立的小短文（Chunk）。每个Chunk都带着“元数据标签”（如来源文件、页码、作者）。

转换2（升维编码）：系统调用Embedding模型，把这段人类语言（Chunk）转化为一串浮点数数组（向量）。例如，一个Chunk变成[0.12, -0.98, 0.45, ... 1536维]。这个数组代表了该Chunk在数学空间中的“语义坐标”。

形态③：向量化索引（Vector Index）

系统将这个数组和它的原始文本、元数据，一起存入向量数据库（如Milvus/Pgvector）。关键点：数据库此时会对海量向量构建HNSW等索引结构——这相当于把散落的“坐标点”编织成一张“语义地图”，方便后续快速找邻居。

形态④：用户原始问题（Query）

用户在对话框输入：“我们公司国庆节放假怎么调休？” 数据特征：简短、口语化、缺少上下文。

转换3（上下文补全 & 同维映射）：

如果有多轮对话，系统会把历史对话拼进来改写（如补全“它”指代谁）。然后，调用完全相同的Embedding模型，把这个问题也变成一串同样维度的浮点数数组（例如同样是1536维）。

转换4（语义匹配与路由）：

系统拿着这个“问题坐标”，去向量数据库的那张“语义地图”里走一圈（ANN搜索），找到几何距离最近的Top-K个“坐标点”。此时数据流里取出的是——形态②中对应的那几段原始文本Chunks（注意：这时候取回的是人类语言，不是向量）。

形态⑤：增强上下文（Augmented Context）

系统把检索到的这Top-K段文字（通常3-5段），按照“强相关放首尾，弱相关放中间”的策略，塞进一个特定的Prompt模板里。数据流此时是拼接后的长文本：[System指令] + [Top1强相关片段] + [弱相关片段] + [Top2强相关片段] + [用户问题]。

转换5（自回归解码）：

系统将形态⑤（拼接后的长文本）发给LLM推理引擎（如vLLM）。数据在这里经历“Token化”——文字变成数字ID，进入Attention机制计算。

转换6（流式输出）：

模型不产生完整结果，而是逐个生成Token（数据包），通过SSE（Server-Sent Events）源源不断推送给前端。此时数据形态恢复为自然语言（Streaming Text），逐字显示在用户屏幕上。

形态⑥：最终回复（Answer）

用户看到最终的答案：“国庆节10月1日至7日放假…” 终点动作：前端将这次问答的(Query, Chunks_IDs, Answer)组合成一条日志数据，写入消息队列（Kafka），等待离线阶段回收利用。

高级视角：数据流的“回流”（闭环）

在成熟系统中，数据不是线性走完就结束的。形态⑥（日志数据）会被离线管道消费：

如果用户对回答点了“赞”，这条(问题, 答案)会被提炼成微调数据集，反哺下一次的Embedding模型微调。
如果点了“踩”，系统会将这次检索到的Chunk标记为“难例（Hard Negative）”，下次训练时会特意让模型拉远这类样本的向量距离。

这就是你问的RAG数据流全景图：从散乱的PDF，升维成向量，检索时降维回文字，最终升维成答案，再沉淀成训练数据——形成一个“数据永动机”的闭环。

Q5：RAG架构中的“检索器”和“生成器”通常是独立训练还是联合训练?为什么?

DPR：密集段落检索，Dense Passage Retrieval

主流的工业实践是独立训练，前沿的研究是探索联合训练。

独立训练：检索器使用现成通用的嵌入模型（BEG、E5），生成器使用GPT、Llama。两者通过API或者接口链接，数据不回流。好处是：成本低，可以随时更换模型，无需重新索引知识库。缺点在于检索器不知道哪些文档对生成器有用，只会返回语义相似的，而语义相似并不等于对生成有帮助。可能会出现高相似但是信息冗余的情况，废话连篇。

联合训练：让检索器与生成器的参数共同更新，这样检索器就会被训练成以生成结果为导向，整体效果更好。

如果在业务场景下，使用的是闭源模型，那么独立训练比较好，如果拥有所有模型的控制权，且知识库固定，那么使用联合训练比较好。

Q6：RAG如何适应高度结构化的数据库？如何设计？

比如说要查询去年双十一销量最高的商品。

分为三步：1、意图识别、利用小模型或者是模型本身的function calling，先判断这个问题是需要进行数据库操作分析还是去查询相似文档进行语义相似度匹配。2、数据库查询、构建一个小的表结构的向量库，当需要进行数据库操作的时候，把这个表的结构信息和用户问题给大模型生成SQL的查询语句。再去数据库中查询相关数据总结出自然语言返回给生成器进行回答。如果既需要数据库操作又需要文档相似度匹配的情况，那就再检索文档片段拼接起来，混合回答。

Q7：检索增强与上网搜索的区别？

上网搜索是利用搜索引擎从网上抓取数据，无论是对是错是否有偏见，而检索增强是在清洗过的私有的专家数据库中检索，并且建立好了索引，搜索速度稳定且极快。

Q8：RAG可以检索图片吗？

可以，构建多模态数据库，将图片与文本进行对齐存储。

Q9：为什么RAG是缓解大模型幻觉的有效手段？局限性在哪里？

要理解为什么RAG能缓解幻觉，得先拆解大模型产生幻觉的三大根源:

1.知识空白:模型训练数据有截止日，对训练后发生的事一无所知。

2.记忆混淆:海量知识在权重中纠缠，细节容易被“平滑”或张冠李戴。

3.被迫生成:语言模型的本能是“接话”，当被问到没有储备信息的问题时，它会基于语言概率编造一个最”像”的答案。

RAG用外部知识填补了这份空白。

但RAG也有局限性：检索局限、文档本身的错误、生成器固执已见，内部的先验知识压倒了外部知识。

Q10：RAG和上下文学习是什么关系？

上下文学习，他是教模型怎么回答问题，激活了模型的任务适应回路

RAG是对模型进行知识注入，告诉模型回答要基于这些事实，

当然一个完整的RAG需要包括上下文学习，一个完整的RAG提示词往往是包括ICL示例+RAG检索文档+问题。

Q11：RAG的增强环节做了什么？

这是一场信息提炼与情景编制的微型工程。

文档的压缩与去噪，去除页眉页脚，结构化抽取信息，去除噪音广告等。

相关性重排序，因为检索器检索的TOPK个文档，语义向量相似度不一定代表信息就是有用的，还需要搭配其他的编码模型对结果重新排序，把最有价值的文档放在最前面。

上下文窗口的长度切割，文档的切块。

元数据与引用注入，为每段文档添加溯源信息，可溯源。

提示词模板结构化，让模型理解每个角色。

多条信息的结构融合，比如有多轮检索、联网检索、知识整合，知识溯源等多种任务的思维链链路完整逻辑合理清晰。

Q12：RAG除了向量检索还有哪些检索？

1、稀疏向量检索（关键词匹配），基于词频-逆文档频率。

2、基于知识图谱的逻辑检索

3、基于规则的元数据过滤

4、以搜索模型为检索器

5、层次化检索与路由，现在粗粒度上的文档进行检索，然后再定位到相关文档。父子节点的检索，父节点是摘要。

Q13：什么场景不适合用RAG？

比如在自动驾驶中，高频交易系统中，当知识固化、零时效要求、或者物理世界链接时不适合用RAG。

Q14：为何还需要重排序模型?它和初排向量模型在结构上有什么本质区别?

检索时初排模型用的是双编码器，query与文档chunk分别编码，然后计算的是向量的余弦相似度，重排序用的是交叉注意力机制编码，计算更精细的语义相似度。初排为了保证高召回（不漏掉相关文档），重排是为了把真正相关的内容提到前面。

Q15：关于IVF倒序索引算法与HNSW分层图索引算法？

IVF 在数据库底层的实现，特别像传统关系型数据库的“分区表（Partition）”。

索引存储（建索引时）：数据库跑一遍 K-Means 聚类算法，把所有向量分成 N 个桶（比如 1024 个）。建好后，数据库里会多出一张“分区元数据表”，里面记录了 1024 个聚类中心的坐标。同时，原始向量数据依然按行存，但每一行会打上一个标签：桶编号（桶编号）（0~1023）。

查询执行过程（查询计划）：

索引定位（分区裁剪）：数据库收到你的查询向量后，先扫一遍那张小的“元数据表”（1024 条记录，极快），算出你的向量离哪 4 个聚类中心最近（nprobe=4）。

分区扫描（类似全表扫描，但范围缩小）：数据库只读取这 4 个分区里的所有数据行。假设总共 100 万条数据，4 个桶里有 4000 条，数据库就会把这 4000 条全部从磁盘/内存读出来，一条一条地计算欧氏距离。

排序输出：在内存里对这 4000 个距离排个序，返回前 10 个。

为什么快且省内存？因为它本质上是在做顺序扫描（Sequential Scan），只是把扫描范围缩小了。它不需要额外存复杂的结构，只需要存那 1024 个聚类中心坐标，内存消耗极低。

HNSW 在数据库底层的实现，特别像 Redis 里的“跳表（Skip List）”，但它存的是高维空间里的邻居指针。

索引存储（建索引时）：数据库不按顺序存数据行，而是把每条向量变成一个“节点”。每个节点除了存自己的向量值，还会存一个邻居指针列表（例如，存 16 个邻居的行 ID）。这就像在数据库里额外建了一张巨大的“图邻接表”。最顶层只有 1 个入口节点，往下每层节点数翻倍，最底层包含所有节点。

查询执行过程（指针跳跃）：

从入口开始：数据库拿到查询向量，先找到最顶层的那个唯一入口节点（存在内存变量里）。

横向跳跃（同层找最近）：在当前层，数据库顺着当前节点的邻居指针，跳到另一个节点，比较距离；再跳，再比较，直到在这一层找不到更近的节点为止（贪心搜索）。

纵向降落（进入下一层）：找到当前层最近的那个节点后，直接通过指针降落到它在下一层对应的节点，继续重复第 2 步。

为什么极快？它把 O(N) 的暴力遍历，变成了 O(log N) 的指针跳跃。不需要扫描任何数据行，纯粹是在“内存里沿着指针蹦来蹦去”。

传统产品经理，正在成为下个被淘汰的“传统岗位”。

过去画原型、写 PRD、跟进度的“传统技能包”，在AI时代正迅速贬值。63% 的企业转型做 AI 产品！当下的问题不再是“要不要学 AI ”，而是“如何构建 AI 产品”。

前段时间还跟字节、腾讯的资深 AI 产品经理沟通，他们反馈：在大量招人，只要有 AI 相关的项目经验，基本都能拿到面试机会，而且领导很舍得给钱，涨薪 40-60% 很正常！

接下来的产品人，得卷AI能力了！

如今AI大火，行业极速发展的背后，懂AI 产品人才却严重稀缺。这不是要你转技术岗，而是要掌握构建 AI 产品的核心方法：

如何将你的领域知识，转化为 AI 产品的核心竞争力？
如何用 AI 技术实现你的产品需求？
如何设计真正懂用户的 AI 交互体验？
……

懂AI，就是产品经理的“救命稻草”！

风口之下，与其焦虑被行业淘汰

不如先人一步享受AI技术带来的红利！

我把AI产品经理的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【`保证100%免费`】

在这里插入图片描述

（不限年龄！不限岗位！没有代码基础也能学！）

🎁现在扫码，完课还送：

《AI产品面试题库》《AI大模型应用案例集》

掌握技术+实战，快速转型！

想成为一名卓越的AI大模型产品经理，需要从技术、到项目实战的全方位转型指南！

**1）**AI产品应用原理解析，产品经理也能听懂！

对于产品经理来说，如果你不懂技术，做不了业务和AI大模型技术衔接、定义不了数据需求，是没法完整的落地一个产品的！

本次课程，专门面向产品经理人群，解析当下最热门的AI产品应用的必备的「大模型」、「多模态」的实际应用和算法原理！解析AI产品应用技术，积累大模型能力！简单易懂，不需要会代码，小白也能掌握！

大模型微调：掌握主流大模型（如DeepSeek、Qwen等）的微调技术，针对特定场景优化模型性能。学习如何利用领域数据（如制造、医药、金融等）进行模型定制
AI Agent智能体搭建：学习如何设计和开发AI Agent，实现多任务协同、自主决策和复杂问题解决。构建垂类场景下的智能助手产品（如制造业中的设备故障诊断Agent、金融领域的投资分析Agent等）

2）超全行业案例解析！

课程详细讲解现阶段，大模型在各个行业和领域的应用现状！包括：零售与电商、教育、医疗、泛娱乐、法律等等10大行业！

详细讲解案例的思路、应用场景，以及背后的技术原理、核心技术！揭秘各个行业、场景的真实现状，和未来产品的发展与机遇！

可以说，讲解完一个案例，就能积累一个AI产品实践的经验！

课程中所涉及到的实战项目，都可以直接在自己的工作中使用，让自己的产品/项目有可借鉴的成功案例！

3）AI产品经理求职专项辅导

课程中会系统的帮助大家拆解字节、腾讯、百度等大厂AI PM岗位JD关键词，掌握AI PM高频面试题型与回答框架；展示 AI 相关能力的关键技巧：Prompt设计、模型评估、A/B测试、成本意识、与算法/工程协作经验；

To B类AI产品经理：突出“行业理解 + 技术落地 + 商业闭环”能力的简历结构设计，展示项目成果；从客户需求洞察到技术方案设计，展现端到产品思维；如何评估To B AI产品的可行性、客户付费意愿与实施成本
To C类AI产品经理：拆解头部公司岗位JD，将过往尽力转化为AI产品叙事逻辑；从行业趋势、产品设计题、案例分析&数据分析题、技术理解边界等全流程辅导面试；避免无效海投、锁定最适合的AI产品岗位；