【RAG优化】你的RAG效果为什么不好？如何改进？

最新推荐文章于 2025-12-18 15:31:04 发布
最新推荐文章于 2025-12-18 15:31:04 发布
阅读量655 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 大模型 文章标签： 开发语言 笔记 AIGC AI-native gpt agi prompt
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Attitude93/article/details/141141598

大家好，我是 同学小张，+v: jasper_8017 一起交流，持续学习C++进阶、OpenGL、WebGL知识和AI大模型应用实战案例，持续分享，欢迎大家点赞+关注，共同学习和进步。

AI大模型应用开发，常常是做出Demo容易，但在实际生产中落地很难。尤其是RAG框架下的应用。

前面文章中，我们系统的总结和讨论过可能影响RAG效果的节点，以及如何解决这些问题：【AI大模型应用开发】【RAG优化 / 前沿】0. 综述：盘点当前传统RAG流程中存在的问题及优化方法、研究前沿

在这里插入图片描述

这些痛点和解决方法，可以在一定程度上说明RAG调优的路径。最近，又看到一篇外网文章在讨论RAG为什么效果不好，今天通过这篇文章也分享给大家，希望在上篇文章和这篇文章中，大家能有所收获。

外网原文：Why Your RAG Doesn’t Work

文章目录

0. 语义不一致导致效果不好

这是这篇文章最主要的观点，其重点研究了RAG的语义不一致问题，以及提出了一种解决思路。

语义不一致是指任务的预期含义、RAG 对它的理解以及存储的底层知识之间的不一致。大白话说，就是检索回来的相关文本其实与用户的问题没有多少关系…

嵌入向量（Embedding）是RAG的底层知识，在RAG中，最常用的比较向量相似性的度量方法是使用余弦相似度。但其可解释性很差：

（1）向量在完全捕捉给定语句的语义内容方面存在固有缺陷。
（2）余弦相似度不一定能产生精确的排名

举一个例子，以"什么是雨？"这个问题为例，有以下三个句子：

  • 文本 1（定义）：“雨是从云中析出的水滴，当它们变得太重而无法悬浮在空中时就会落到地面。”

  • 文本 2（提到下雨）：“风把水分吹过山上，导致西雅图下雨。”

  • 文本 3（不相关信息）：“Stripe 是一家支付基础设施公司。”

其余弦相似度结果如下：

在这里插入图片描述

从上表可以看出，使用两个不同的 OpenAI 模型得到的余弦相似度的范围和解释截然不同。对于第一个模型，0.73 表示完全不相关的匹配，而对于第二个

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【速通RAG实战：优化】9.RAG优化宝典：检索精度提升与效果评估全攻略
专注AI工程化与架构实战。从分布式思维到模型部署，用工程化视角为你厘清AI落地的真实路径。
05-12 1431
检索精度的优化与RAG效果评估：持续改进流程 1. 监控：实时记录检索与生成指标。 2. 反馈循环：收集用户对错误答案的反馈，加入训练数据。 3. 定期迭代：每季度更新嵌入模型与索引。 通过系统化优化与评估，RAG系统可逐步逼近甚至超越纯LLM在特定领域的表现，同时显著降低幻觉风险。
[AI] 如何优化Ollama+OpenWebUI部署中的RAG功能
技术就是小甜甜博客
02-18 771
在使用Ollama与OpenWebUI进行局域网LLM部署时，遇到RAG功能效果不佳的情况并不罕见。通过一系列的排查与调整，我们发现问题的根本原因在于向量嵌入模型不适合中文文本。最终，通过更换为专门优化中文的bge-m3模型，我们成功地提升了RAG的效果。
如何优化RAG系统的性能表现？10条实用策略
Baihai_IDP的博客
12-20 1936
检索增强生成(RAG)系统最近备受关注，ChatGPT的火爆更让这类系统成为广泛讨论的热点。我们今天为大家带来的这篇文章，作者Matt Ambrogi的核心观点是：构建一个基本可用的RAG系统非常简单，但要使其达到实际生产可用的程度则异常困难，需要我们投入大量精力。 为此，作者详细介绍了10种策略，包括清洗数据、尝试不同索引类型、优化分块策略、使用 Base Prompt、使用元数据过滤、使用查询路由、研究重排序、使用查询转换、微调嵌入模型、使用 LLM 生态相关工具等，这些策略都可能不同程度地提高RAG
什么是RAG与为什么要RAG
全网120W+关注AI拉呱，专注人工智能以及科技前沿！
03-24 1017
大家好，我是AI拉呱，一个专注于人工智领域与网络安全方面的博主，现任资深算法研究员一职，热爱机器学习和深度学习算法应用，拥有丰富的AI项目经验，希望和你一起成长交流。检索增强生成（RAG）是一种流行的技术，通过在生成答案之前从知识库中检索相关的外部知识来增强 LLM 的响应。RAG 提高了准确性，减少了幻觉，并使模型能够提供更符合上下文和更新的信息。RAG 包括三个步骤：检索、增强和生成。在此步骤中，系统会在外部知识源（例如向量数据库）中搜索相关信息，以基于用户查询找到相关的信息。
RAG 应用效果不太理想？试试以下RAG优化策略大幅提升问答效果
2401_85325397的博客
10-09 1413
自从2022年12月 ChatGPT 横空面世以来，AI 领域获得了十足的关注和资本，其实AI的概念在早些年也火过一波，本轮 AI 热潮相比于之前的 AI，最大的区别在于：生成式。通过海量文本训练的、能识别人类语言、执行语言类任务、拥有大量参数的模型，称之为大语言模型。GPT、LLaMA、Mistral、BERT等都是LLM，LLM是对训练文本信息的压缩，同时拥有了泛化能力，不同于数据库和搜索引擎，LLM能创造性地生成历史上没有出现过的文本内容。知识的局限性。
你的RAG出错了？快来Get这份改进秘籍（附教程）
DEVELOPERAA的博客
01-20 924
怎么才能让RAG系统变得更聪明、更好用。核心问题就是：“RAG系统到底该怎么优化？
当一个RAG系统效果不好的时候，应该从哪些方面考虑提升效果？
wwlsm_zql的博客
05-11 1210
提升RAG系统的性能是一个系统性的工程,需要全面考虑知识库、检索、生成、数据、人机交互等各个环节,并通过持续的迭代优化和技术更新,不断接近更好的效果。同时,也要注意权衡不同优化措施的成本和收益,选择最有针对性和可行性的改进路径。建议在优化过程中,通过合理的实验设计和评估机制,客观评估不同方案的效果,并结合实际应用场景和用户反馈,不断调整优化策略。与此同时,也要重视团队的多学科协作和经验积累,从算法、工程、产品等多个角度共同推进RAG系统的优化和提升。
小白学RAG：17种改进生成的落地方法
bugyinyin的博客
12-23 1320
重排的主要动机是克服初始检索方法的局限性，这些方法通常依赖于简单的相似性度量。重排允许进行更复杂的相关性评估，能够捕捉到传统检索技术可能遗漏的查询和文档之间的细微关系。
为什么RAG如何RAG和怎么做RAG?
全网120W+关注AI拉呱，专注人工智能以及科技前沿！
04-14 228
检索增强生成（RAG）是一种流行的技术，通过在生成答案之前从知识库中检索相关的外部知识来增强 LLM 的响应。RAG 提高了准确性，减少了幻觉，并使模型能够提供更符合上下文和更新的信息。RAG 包括三个步骤：检索、增强和生成。检索 -在此步骤中，系统会在外部知识源（例如向量数据库）中搜索相关信息，以基于用户查询找到相关的信息。增强 -检索到的信息随后与原始用户查询结合，形成 LLM 的提示。生成 -LLM 处理提示并生成响应，整合其预训练知识和检索到的信息。这使得响应更加准确且符合上下文。
一问讲透什么是 RAG，为什么需要 RAG？
weixin_53880910的博客
08-16 1239
如果使用 pretrain 好的 LLM 模型，应用在你个人的情境中，势必会有些词不达意的地方，例如问 LLM 你个人的信息，那么它会无法回答;这种情况在企业内部也是一样，例如使用 LLM 来回答企业内部的规章条款等。 这种时候主要有三种方式来让 LLM 变得更符合你的需求：
精选资源
24-大模型（LLMs）RAG 优化策略 —— RAG-Fusion篇.pdf
12-31
RAG模型，即Retrieval-...RAG-Fusion试图通过引入和优化多个步骤，包括多查询生成和逆向排名融合，来提升大型语言模型的性能和实用性。这种方法在搜索和信息检索领域展现了巨大的潜力，尽管也存在一些技术挑战。
RAG模式下文档向量切片问题及解决方案
longxiaotian718的博客
10-22 3237
在使用RAG（Retrieval Augmented Generation）检索增强技术时，会涉及到知识库的构建和文档的切分。文档切分的好坏对下游任务的效果至关重要。文档切分粒度不好把控，既担心噪声太多，又担心语义信息丢失。
为什么你的RAG不起作用？失败的主要原因和解决方案
deephub
06-04 5889
我们正在见证AI的新时代的到来。这个时代的新颖之处不在于NLP和语言模型的出现，而是现成技术降低了企业利用自然语言技术针对他们特定用例的门槛。但是，我们还要清楚的认识到，目前这项技术仍处于早期开发阶段，在为你的AI构建RAG时，其实是在构建一个复杂的搜索引擎，这是可行的，但是要认识到这里的复杂性和挑战并解决这些问题才能让我们向成功迈出第一步。
幽冥大陆(五十三)人工智能开发语言选型指南——东方仙盟筑基期
cybersnow精通 28 门计算机语言，凭借其超凡的技术能力，成功开发过上万个应用，广泛涉及政府、商业、个人等众多领域，甚至在检察院、环保局、公安局等专业场景中也大放异彩。不仅熟练掌握单片机和物联网开发，在软件架构设计方面更是独树一帜，自创了跨平台软件
12-18 463
在人工智能项目中，开发语言的选择并非取决于语言本身的 “优劣”，而是的综合考量。本文结合服务器端、客户端、轻量化设备、特种场景等不同维度，对比 Python、C#、C 语言、Go、Rust、Android（Kotlin/Java）的适配性，给出针对性选型建议。
非线性滤波——基于EKF的INS/GPS松组合算法的研究（直接法|EKF|欧拉角）
最新发布
tsuibeyond的博客
12-18 5225
由于大多数的INS/GPS组合导航算法模型都是基于非线性模型，如何有效的融合INS与GPS的测量信息来对当前载体的位置、速度、姿态等信息进行估计成为一个被长期研究的课题。本篇博客试图记录一下使用直接法EKF算法实现INS/GPS松组合的过程，姿态角以欧拉角表示。
Javaweb 学习笔记——html+css
hssfscv的博客
12-18 432
以上是Javaweb中关于前端html和css的相关内容，主要制作了两个页面，了解了如何使用AI生成我们需要的内容，有利于了解前端知识，接下来将进行剩余前端知识的学习
运放学习笔记
Z97371539的博客
12-13 582
单电源运放是指仅使用单一电源电压（例如，+5V）和地（0V）作为电源供给的运放。也就是说，它只需要一个正电压和地作为参考电压，而不需要负电压。
Android学Dart学习笔记第十四节 库和导库
weixin_44656996的博客
12-15 768
其他语言中的访问修饰符关键字提供了更细粒度的控制，而Dart使用下划线和基于库的隐私提供了直接的配置机制，有助于高效实现动态访问，并改进了树抖动（死代码消除）。库不仅提供api，还是隐私的单位：以下划线（_）开头的标识符只在库内部可见。当你导入的多个库中，使用了相同的类名时，可以为库起个别名，使用 别名.类名 明确指定所引用的类。使用import来指定如何在另一个库的作用域中使用来自一个库的命名空间。带有通配符_的导入前缀是不绑定的，但可以访问该库中的非私有扩展。
AD学习笔记-36 gerber文件输出
2401_83451707的博客
12-14 303
今天，我们学习如何导出gerber文件，这是我们给板厂的最终文件。
你理解的RAG是什么？
12-06
<think>我们正在讨论RAG的定义。根据引用[1]和引用[2]的内容，RAG是Retrieval-Augmented Generation的缩写，即检索增强生成。它是一种结合信息检索与文本生成的技术。下面我将详细解释RAG的定义。 ### RAG的定义 RAG（检索增强生成）是一种用于自然语言处理（NLP）的技术框架，它通过以下两个步骤生成文本： 1. **检索（Retrieval）**：从外部知识库中检索与用户查询相关的信息或文档片段。 2. **生成（Generation）**：将检索到的信息与用户查询一起输入到生成模型中，生成更准确、相关且具有上下文感知的响应。 这种方法的优势在于能够利用外部知识源来增强生成模型的能力，使其能够提供更准确和最新的信息，尤其适用于需要特定领域知识或实时数据的场景[^1][^2]。 ### RAG的核心组件 - **检索器（Retriever）**：负责从大型文档库中快速检索相关文档。通常使用向量数据库和嵌入（Embeddings）技术，将文本转换为向量表示，然后通过相似度计算（如余弦相似度）来查找最相关的文档。 - **生成器（Generator）**：通常是一个预训练的语言模型（如GPT系列），它接收检索到的上下文和用户查询，并生成自然语言响应。 ### 工作流程 RAG的工作流程可以概括为： 1. 接收用户查询。 2. 使用检索器从知识库中查找相关文档（通常返回top-k个文档）。 3. 将检索到的文档和原始查询拼接成提示（prompt）。 4. 将提示输入生成模型，生成最终响应。 ### 数学表示 在数学上，RAG的生成过程可以表示为： $$ p(y|x) = \sum_{z \in \text{top-k}(x)} p(y|x, z) \cdot p(z|x) $$ 其中： - $x$ 是输入查询 - $y$ 是生成响应 - $z$ 是检索到的文档片段 - $p(z|x)$ 表示检索模型给出查询$x$时检索到文档片段$z$的概率 - $p(y|x, z)$ 表示生成模型在给定查询$x$和文档片段$z$时生成响应$y$的概率 ### 使用场景 RAG适用于以下场景： - 问答系统（如ChatPDF） - 需要实时更新的知识库（如新闻摘要） - 领域专业知识库（如医疗、法律咨询） - 减少大模型的幻觉（hallucination）现象 §§相关问题§§ 1. RAG与传统微调（fine-tuning）方法相比有哪些优势？ 2. 如何评估一个RAG系统的性能？ 3. 在构建RAG系统时，如何优化检索环节的准确性？ </think> ### RAG（检索增强生成）的定义解析 RAG（Retrieval-Augmented Generation）是一种**结合信息检索与文本生成**的AI技术架构。其核心在于通过检索外部知识源增强大语言模型（LLM）的生成能力，具体定义为： 1. **技术本质** 在生成文本前，系统会从预设的知识库中检索相关信息，并将检索结果作为上下文输入生成模型。这改变了传统LLM仅依赖预训练参数的局限，形成动态知识注入机制： $$ \text{生成结果} = f(\text{用户查询} \oplus \text{检索到的知识}) $$ 2. **核心目标** - 提升生成内容的**准确性**：通过实时检索避免大模型"幻觉"问题[^1] - 增强**时效性**：知识库可动态更新，突破大模型训练数据的时间限制 - 扩展**领域适应性**：无需重新训练模型即可对接专业领域知识 3. **关键特征** - **双阶段架构**： ```mermaid graph LR A[用户查询] --> B(检索模块) B --> C{知识库} C --> D(生成模块) D --> E[增强后的回答] ``` - **知识动态绑定**：每次生成都重新检索，确保信息最新 - **上下文感知**：检索结果作为提示词（prompt）的一部分输入LLM 4. **与传统LLM的区别** | 维度 | 传统LLM | RAG | |---|---|----| | 知识来源 | 训练数据固化参数 | 外部实时检索 | | 信息更新 | 需重新训练 | 动态更新知识库 | | 领域适应性 | 弱 | 强（通过定制知识库） | | 事实准确性 | 易产生幻觉 | 显著提升 | > **典型案例**：ChatPDF系统通过RAG实现PDF文档解析，用户提问时实时检索文档内容并生成精准答案。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

同学小张

如果觉得有帮助，欢迎给我鼓励！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值