浅谈大模型RAG架构落地的十大挑战

0、RAG 简介

RAG（Retrieval Augmented Generation）结合知识库检索与大模型回答，确保信息可靠且精准，同时节省了微调成本。

RAG 流程简要概括为3步，对应其名：
检索：借助 Embedding，将问题转化为向量，比对知识库，选取最相关的 Top K 知识。

1、增强：结合检索出的上下文和问题，构造 Prompt。

2、生成：将 Prompt 输入大模型，产出答案。

3、从工程视角划分，RAG 实施分为两阶段：

阶段一：离线数据预处理：涵盖知识文件导入、文本切分、向量构建及数据库存储，完成知识的索引构建。

阶段二、在线应用推理执行：实时执行信息检索与大模型内容生成任务，实现交互式问答流程。

1、数据准备阶段的挑战

挑战一：文本划分不当，影响检索内容的精确度与全面性。

文本块的划分尺寸直接关系到查询时与用户提问的贴合度：过小的区块可能无法涵盖问题所有相关内容；反之，过大则易引入冗余信息。

当前多种文本切分策略存在，但理想的切分方法需贴合特定领域文档特性，考虑因素包括文件格式、作者书写习惯及表述模式等。因此，选取最合适的切块策略需依据具体情况，并可能针对文档的不同类别采取定制化处理。核心在于确保分割逻辑遵循语义完整性，以实现内容的有效组织。

2、数据检索阶段的挑战二

挑战二：尽管向量检索作为主流方法依赖于相似度评估，但它亦面临多方面局限。

1、语义理解偏差：向量表示偶尔难以区分近义概念的细微差异，可能引起误解。

2、维度考量失衡：如余弦相似度侧重向量方向而非其规模，可能导致虽方向相近但在意义层面相去甚远的匹配。

3、信息粒度不协调：用户查询的精确向量可能指向具体信息点，而数据库条目若是宽泛主题，则检索结果易过度泛化。

4、上下文匹配不足：现有向量搜索技术偏向整体相似性判断，可能忽略局部或特定上下文中的更高相似度信息。

5、稀疏数据检索难：在大规模知识库中定位关键片段尤为困难，特别是当所需信息零散分布于多文档时，此挑战更为显著。

3、数据检索阶段的挑战三

挑战三：多个检索结果排名和优先级不合适，导致大模型的回答没有抓住重点。

准确评估并排序多个检索片段对于生成高质量回答极为关键，此过程需精密平衡各段落的相关性和重要性。这不仅考验着排序算法的有效性，还隐含了对领域知识深入理解的需求，以便在信息筛选与排序阶段实现智能化决策。

4、大模型生成阶段的挑战四

挑战四：提升 Prompt 设计以引导大模型依据既有知识库与提示词，输出更佳答案是一项重大任务。

Prompt 创作远超于问题与检索材料的直接整合，它要求根据生成模型的独特性，采取定制化的表述策略与附加指导。为了约束大模型潜在的泛化偏差，确立一个恒定的“角色框架”显得尤为关键，比如：明确指示大模型“扮演该领域的权威学者”，或“仅限于利用提问与关联素材进行精要概述与总结”，从而在各种情境下维持回答的精准度与相关性。

5、大模型生成阶段的挑战五

挑战五：确保大模型回应的连贯性与一致性，面临的信息整合难题尤为突出。

大模型需面对的挑战在于，整合源自多样文献的知识碎片，以及用户提问中多关键词触发的多样化内容。在此基础上，大模型必须展现出高度的整合能力，使得最终的输出结果不仅在逻辑链条上紧密相连，而且在观点与事实的呈现上保持高度一致，这一过程对大模型的综合推理与衔接能力提出了严峻考验。

6、大模型生成阶段的挑战六

挑战六：大模型如何更好地理解领域知识片段。

各个大模型在掌握特定领域知识及专业术语的深度不一，致使它们在解析检索到的信息及构造反馈时展现出差异性。缩小这一差距的关键，在于实施针对性的微调策略，旨在强化大模型对该领域的语言理解力及内容生成的精准度，从而促进其更深层次地融入与适应专业话语体系。

7、知识准备阶段的挑战七

挑战七：优化 RAG 的瓶颈：确保高效且可靠的问答对供给。

在追求 RAG 系统性能巅峰的过程中，大量高质量的问答对用作调优数据显得至关重要。尽管广泛认同丰富 QA 对的积累能极大促进调优效果，但手动创建这些资源无疑是一项耗时巨大的工程，而依赖自动化生成则可能牺牲内容的可靠性。因此，探索一种既能保证效率又能维护准确性的 QA 对生成机制，成为决定 RAG 系统最终成效的核心挑战。

8、意图识别阶段的挑战八

挑战八：界定合理拒答的微妙平衡。

面对用户提问，尤其当问题超越了现有文献资料范畴时，恰当时机的拒答成为一大考验。应当在无法给予确切信息时勇于说“不知道”，以免提供错误引导。实践中，虽常借助相似度阈值或场景语料库作为判断标尺，却依然难以实现百分之百的精准。过于频繁的拒答可能导致用户体验冷漠，而过度猜测回答又可能损害系统信誉。因此，拿捏拒答的恰当火候，成为维护问答系统信誉与用户信任的关键。

9、多模态 RAG 的挑战九

挑战九：多模态的支持是必然趋势。

在多模态 RAG 的研究中，针对不同的模态，包括：图像、代码、结构化知识、音频和视频，有不同的检索和合成程序、目标任务和挑战。比如：通过图像检索扩展文本生成的上下文，利用样例代码和相关文档增强代码生成等等。

10、RAG 评价的挑战十

挑战十：科学衡量 RAG 在特定领域的实用性门槛。

评估 RAG 在某一领域的应用成熟度，类似于采用 RAGAs 评估框架，需独立提供问题(question)与标准答案(ground_truth)，这使得评估结果高度依赖于问题设计的合理性与标准答案的准确性。

此外，评估流程的复杂性—涉及大模型及嵌入模型的性能，进一步要求模型本身的稳定可靠，以及输入 Prompt 的精确无误，否则评估指标将失去可信度。因此，确保大模型与 Prompt 的质量，成为验证 RAG 应用效能的关键挑战。

​

如何学习大模型

现在社会上大模型越来越普及了，已经有很多人都想往这里面扎，但是却找不到适合的方法去学习。

作为一名资深码农，初入大模型时也吃了很多亏，踩了无数坑。现在我想把我的经验和知识分享给你们，帮助你们学习AI大模型，能够解决你们学习中的困难。

我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习，等录播视频免费分享出来，需要的小伙伴可以扫取。

一、AGI大模型系统学习路线

很多人学习大模型的时候没有方向，东学一点西学一点，像只无头苍蝇乱撞，我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。

二、AI大模型视频教程

三、AI大模型各大学习书籍

四、AI大模型各大场景实战案例

五、结束语

学习AI大模型是当前科技发展的趋势，它不仅能够为我们提供更多的机会和挑战，还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型，我们可以深入了解深度学习、神经网络等核心概念，并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时，掌握AI大模型还能够为我们的职业发展增添竞争力，成为未来技术领域的领导者。

再者，学习AI大模型也能为我们自己创造更多的价值，提供更多的岗位以及副业创收，让自己的生活更上一层楼。

因此，学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。