【AI大模型应用开发】【RAG优化 / 前沿】0. 综述：盘点当前传统RAG流程中存在的问题及优化方法、研究前沿

已于 2024-03-22 13:40:37 修改
阅读量4.5k 收藏 51
点赞数 48
CC 4.0 BY-SA版权
分类专栏： 大模型 文章标签： 人工智能 langchain 笔记 agi RAG GPT 学习
于 2024-03-07 07:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Attitude93/article/details/136231812
  • 大家好，我是同学小张，日常分享AI知识和实战案例
  • 欢迎 点赞 + 关注 👏，持续学习，持续干货输出。
  • +v: jasper_8017 一起交流💬，一起进步💪。
  • 微信公众号也可搜【同学小张】 🙏

本站文章一览：

在这里插入图片描述

文章目录

0. 开篇

我之前写过 RAG 的基本流程和实战（【AI大模型应用开发】3. RAG初探 - 动手实现一个最简单的RAG应用），里面介绍的是基本RAG的流水线。最后我也提到，要想实现比较好的RAG效果，还有很多工作需要做，落地很难。

在这里插入图片描述
在这里插入图片描述
本文我们来概述一下当前基本RAG流程中存在的问题，以及目前常用的RAG效果优化方法。

1. 基本RAG存在的问题

1.1 基本介绍

以一篇专业的论文切入，让我们来看看当前RAG的基本框架存在哪些问题。

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【AI大模型应用开发】RAG-Fusion框架：忘掉 RAG，未来是 RAG-Fusion
同学小张的博客
09-24 660
RAG目前很火，但是也有一些不足的地方。有不足就有改进方法。本文我们来看一个方法：RAG-Fusion，理解其原理，并看一下其实现源码。
【RAG优化】你的RAG效果为什么不好？如何改进？
同学小张的博客
08-20 651
AI大模型应用开发，常常是做出Demo容易，但在实际生产中落地很难。尤其是RAG框架下的应用。你的RAG效果为什么不好？怎么改进？一起来看一下。
检索增强生成(RAG) 优化策略篇
Java架狗师知识框架速查表
11-18 4883
本文详细介绍了检索增强生成（RAG）技术的各个优化策略，包括文档块切分、文本嵌入模型、提示工程、大模型迭代、架构优化、索引优化、索引数据优化等多个方面。通过这些优化策略，RAG 技术在处理复杂查询和生成信息丰富回应方面展示了巨大的潜力。未来，RAG 技术将在垂直优化、横向扩展以及生态系统构建等方面继续发展，为多领域应用提供更低的训练成本和更优的性能表现。
一文详谈RAG优化方案与实践
weixin_45583158的博客
06-19 1721
导读RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细的介绍了RAG遇到的挑战、通用范式、工程实践、优化实现策略等。一、RAG的背景介绍随着ChatGPT的兴起，大语言模型再次走进人们的视野，其在NLP领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。通义系列、GP...
一文读懂传统RAG、多模态RAG、Agentic RAG以及GraphRAG
最新发布
xiaoganbuaiuk的博客
10-18 1273
文章系统介绍了四种主流RAG架构：传统RAG（检索→拼接→生成，适用于简单问答）、多模态RAG（支持文本、图像、视频等多种数据类型）、Agentic RAG（引入智能体实现自主决策和多轮检索）以及GraphRAG（结合知识图谱增强推理能力）。文章强调应根据业务需求选择合适的RAG方式，并指出未来多模态、智能体与图谱RAG融合将是必然趋势。RAG已经不是什么新鲜的概念了，自2023年发展至今也有两年时间了，从最早的传统RAG进化到如今各类更智能的RAG，今天给大家简单介绍下现在用的最多的这四种RAG。
大模型RAG优化方案与实践（非常详细）从入门到精通，看这一篇就够了
玩赚AI大模型的博客
07-17 4501
RAG通过检索现有的大量知识，结合强大的生成模型，为复杂的问答、文本摘要和生成任务带来了全新的解决方案。本文详细的介绍了RAG遇到的挑战、通用范式、工程实践、优化实现策略等。一、RAG的背景介绍随着ChatGPT的兴起，大语言模型再次走进人们的视野，其在NLP领域表现出的语言识别、理解以及推理能力令人惊叹。越来越多的行业开始探索大语言模型的应用，比如政务、医疗、交通、导购等行业。通义系列、GPT系列、LLama系列等模型，在语言交互场景下表现十分抢眼。
RAG系统为什么效果不好？常见问题与评估指标深度拆解
2401_85325726的博客
08-23 954
RAG（检索增强生成）虽然极大地提升了大型模型（LLM）回答问题的准确性和时效性，但在实际落地过程中，它远非一个完美的解决方案。 下面，我们将详细梳理当前 RAG 系统遇到的主要问题，以及业界为解决这些问题而探索出的先进解决实践和涌现出的优秀开源产品。
RAG优化
weixin_40566713的博客
06-22 539
1、大模型的局限性2、什么是检索增强的语言模型(Retrieval-based LMs)3、为什么要使用检索增强的语言模型（Retrieval-based LMs）4、RAG和SFT微调有什么不同？
企业中对RAG的优化方案
菜鸟毅战
06-28 1273
通过优化RAG在检索、语义和生成方面的性能，可以显著提升企业在不同业务场景中的数据处理效率和准确性。合理选择检索模式、解决语义问题以及引入先进的生成架构是实现这一目标的关键步骤。
26秋招大模型技术岗位面试题+面经（六）：美团
2401_83173765的博客
05-28 1050
1. 自我介绍环节2. 选择一段CV算法实习经历进行分享3. 讨论图片质量分析项目，探讨与大模型应用的契合度4. 交流多模态大模型在质量分析中的实际应用（不展开具体技术细节）5. 第一个部门面试仅关注项目经历，未涉及理论知识6. 团队协作中遇到方案分歧时的处理方式7. 分享美团多模态大模型推荐算法面试全记录（重点关注RL应用）8. 比赛经历中的最大收获9. 面试难度评估及团队业务介绍（智能客服用药问答场景）10. 首次暑期实习代码题经历（需面试官提示优化）
常用向量数据库与结合大模型的应用
汽车软件开发
04-18 2191
向量数据库与大模型的结合，为AI技术的应用提供了新的方向和可能性。向量数据库通过存储和处理向量数据，提供高效的相似度搜索和检索功能，这使得它在多个领域中发挥着重要作用245。特别是在推荐系统、图像检索、自然语言处理、人脸识别、音频识别、实时数据分析、物联网以及生物信息学等领域，向量数据库的应用场景非常广泛2。结合大模型，向量数据库能够成为大模型的“外脑”，帮助大模型扩展其记忆能力，记住用户对话的历史内容，甚至越过多轮对话9。这种结合不仅增强了大模型的记忆和理解能力，还提高了其在特定领域的应用效果和准确性。
【LLM大模型】RAG（检索增强生成）系统的问题及解决思路
DEVELOPERAA的博客
07-31 1304
随着大型语言模型（LLM）的出现，人们对更好搜索能力的需求催生了新的搜索方法。虽然基于关键字的传统搜索方法和推荐系统在某种程度上是有效的，但 LLM 的出现将搜索能力提升到了一个新的水平。
一文看懂GraphRAG与传统RAG的7大区别及融合方案，你会怎么选择？
m0_63171455的博客
09-04 4417
其借助社区检测算法来识别知识图谱中的多个社区，并利用LLM对这些社区进行总结与摘要。因此，当回答类似这样的问题：“最近几年高端智能手机的整体发展趋势是怎样的？Microsoft GraphRAG会通过Map-Reduce算法首先从多个不同的关联社区（比如不同年份社区）来搜集到“高端智能手机”的信息（Map），最后汇总生成全局性答案（Reduce）。
一文细数大模型 RAG 十二大痛点及解决方案
2201_75499313的博客
07-13 1810
暑期实习基本结束了，校招即将开启。不同以往的是，当前职场环境已不再是那个双向奔赴时代了。求职者在变多，HC 在变少，岗位要求还更高了。最近，我们又陆续整理了很多大厂的面试题，帮助一些球友解惑答疑，分享技术面试中的那些弯弯绕绕。检索增强式生成（RAG）是一种使用检索提升语言模型的技术。具体来说，就是在语言模型生成答案之前，先从广泛的文档数据库中检索相关信息，然后利用这些信息来引导生成过程。这种技术能极大提升内容的准确性和相关性，并能有效缓解幻觉问题，提高知识更新的速度，并增强内容生成的可追溯性。
传统RAG存在的问题以及解决方法
Hanscal
06-28 1227
传统的RAG技术逐渐开始与提示词工程（Prompt Engineering）、模型微调（Fine Tuning）、知识图谱（Knowledge Graph）和智能体（Agent）等技术结合，构成更广义的RAG问答链路框架。PS: 欢迎大家扫码关注公众号，我们一起在AI的世界中探索前行，期待共同进步！
如何优化RAG系统的性能表现？10条实用策略
Baihai_IDP的博客
12-20 1930
检索增强生成(RAG)系统最近备受关注，ChatGPT的火爆更让这类系统成为广泛讨论的热点。我们今天为大家带来的这篇文章，作者Matt Ambrogi的核心观点是：构建一个基本可用的RAG系统非常简单，但要使其达到实际生产可用的程度则异常困难，需要我们投入大量精力。 为此，作者详细介绍了10种策略，包括清洗数据、尝试不同索引类型、优化分块策略、使用 Base Prompt、使用元数据过滤、使用查询路由、研究重排序、使用查询转换、微调嵌入模型、使用 LLM 生态相关工具等，这些策略都可能不同程度地提高RAG
一文彻底搞懂检索增强生成(RAG) 优化策略
2401_85379281的博客
12-30 4514
本文详细介绍了检索增强生成（RAG）技术的各个优化策略，包括文档块切分、文本嵌入模型、提示工程、大模型迭代、架构优化、索引优化、索引数据优化等多个方面。通过这些优化策略，RAG 技术在处理复杂查询和生成信息丰富回应方面展示了巨大的潜力。未来，RAG 技术将在垂直优化、横向扩展以及生态系统构建等方面继续发展，为多领域应用提供更低的训练成本和更优的性能表现。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。
RAG优化方法
niulinbiao的博客
02-12 543
是一种结合了检索和生成的自然语言处理（NLP）技术。它通过将生成模型与外部知识库（如文本数据集、数据库等）进行检索结合，来增强生成模型的能力，提供更准确、更相关的答案。具体来说，RAG检索（Retrieval）：模型首先从一个大的知识库中检索出与当前问题相关的文档或片段。这个步骤帮助模型找到具体信息，而不是完全依赖预训练的参数。生成（Generation）：在检索到相关信息后，生成模型会基于这些信息来生成更准确的回答。
RAG介绍及RAG的优化
qq_29837229的博客
04-26 996
信息检索和生成语言建模。这种方法旨在为语言模型提供访问外部数据源，来提高其在生成响应时的准确性和相关性，从而增强语言模型的能力。1）检索：用收到的query去库里查到最相关的文档或者上下文2）生成：把以上得到的内容输入给LLM，LLM通过理解和结合，整理回答出问题的答案。参考 https://mp.weixin.qq.com/s/mn0MilYoyV0Df_7SXnuY2g高级检索增强生成（Advanced RAG）：对传统RAG增加复杂的检索前 和检索后过程。检索后：增加ReRank。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

同学小张

如果觉得有帮助，欢迎给我鼓励！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值