15 种高级 RAG 技术 从预检索到生成

已于 2024-10-02 19:39:24 修改
阅读量1.2k 收藏 21
点赞数 34
分类专栏： python 文章标签： RAG LLM
于 2024-10-02 09:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/fudaihb/article/details/142523092
版权

作者：扎基·法伊克
2024年3月

作者信息
扎基·法伊克

与 WillowTree 的数据与人工智能研究团队 (DART) 联系：
米歇尔·阿弗里 | AI 部门副总裁
WillowTree，TELUS International 公司的子公司
michelle.avery@willowtreeapps.com

目录

  • 摘要
    1. 预检索与数据索引技术
    1. 检索技术
    1. 后检索技术
    1. 生成技术
    1. 高级 RAG 技术的其他考虑
  • 结论

摘要

我们关于检索增强生成 (RAG) 的入门文章介绍了关键概念，并探讨了 RAG 系统的工作原理。在本白皮书中，我们探索了 15 种高级 RAG 技术，以提高生成式 AI 系统的输出质量和整体性能的鲁棒性。这些高级 RAG 技术极大地扩展了团队微调系统性能的选择。例如，在为一家大型金融服务公司构建安全的对话式 AI 助手时，我们

了解本专栏 订阅专栏 解锁全文 超级会员免费看
高级RAG技术：提升生成式AI系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
丨汀、的博客
10-26 1096
高级RAG技术：提升生成式AI系统输出质量与性能鲁棒性【预检索、检索、检索后、生成优化等】
RAG问答系统：检索增强生成框架
ZJQ的博客
10-30 227
传统的RAG问答系统构建流程一般分为三步：构建文本索引、检索文本内容和生成回答。这种方法只通过单次检索来寻找相关文本，而且没有对检索和生成过程进行额外优化，这大大限制了系统的检索质量与回答质量。随着RAG技术的发展，后续出现了更为复杂的高级检索增强和模块化检索增强。虽然这些方法在某些方面取得了进展，但仍存在以下问题：1.检索质量问题。这包括检索到的内容有时与用户问题的一致性或相关性不佳、检索得到的结果不够全面、检索结果过度冗长等。2.回答质量问题。受到检索质量的影响，大模型可能出现被无关上下文误导的情况。
RAG技术全解析：打造下一代智能问答系统
热门推荐
alysblmd
05-13 1万+
检索增强生成（RAG）技术通过结合大型语言模型（LLM）和外部知识库来克服传统语言模型在特定领域任务上的局限。RAG通过索引、检索和生成的三步流程，增强了语言模型的能力，提高了生成内容的准确性和相关性。本文详细介绍了RAG的工作原理、实现过程和评估方法，并展望了其在多模态领域的应用前景。RAG不仅优化了问答系统的性能，还通过多样的技术整合和灵活的检索过程，推动了智能问答系统的发展。
高级检索增强生成技术(RAG)全面指南：原理、分块、编码、索引、微调、Agent、展望
人工智能讲师分享前沿技术
04-27 6722
如果我们使用多个源来生成答案，要么是由于初始查询的复杂性（我们必须执行多个子查询，然后将检索到的上下文合并到一个答案中），要么是因为我们在各种文档中找到了单个查询的相关上下文，问题是我们是否能够准确地回溯我们的来源。显然，尽管OpenAI是LLM提供商的市场领导者，但仍有许多替代方案，例如Anthropic的Claude、最近流行的较小但功能强大的模型，例如Mixtral形式的Mistral、Microsoft的Phi-2以及许多开源选项，例如Llama2、OpenLLaMA、Falcon。
什么是RAG技术？18种RAG技术综述，看完让你不迷茫
weixin_59191169的博客
04-11 1269
在测试环境中，我对上述 18 种 RAG 技术进行了严格评估。各技术在检索准确率、响应速度与实现复杂度方面各有所长，但实验数据清晰显示，
深度解读RAG技术发展历程（一）RAG简介：Naive RAG、Advanced RAG、Modular RAG、RAG/Fing-turning/提示词工程对比
Code1994的博客
08-28 2031
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
大模型应用开发，必看的RAG高阶技巧
2301_81940605的博客
04-11 1105
大家好最近一直在探索RAG相关的技术，并且分析了langchain和llamaindex相关技术实现，现在总结和分享一些自己的经验。
15 种高级 RAG 技术，值得收藏！
m0_59164520的博客
08-20 867
一篇报告，介绍了 15 种高级 RAG（检索增强生成，Retrieval-Augmented Generation）技术，可以从预检索、检索、后检索和生成四个环节来细分。
【自然语言处理】大型语言模型的检索增强生成技术综述：从Naive RAG到Modular RAG的发展与应用
最新发布
05-23
RAG的发展经历了三个阶段：朴素RAG、高级RAG和模块化RAG。每个阶段都对检索、生成和增强技术进行了优化。此外，文章详细探讨了RAG在不同应用场景下的具体实现方法，包括查询优化、嵌入模型选择、适配器集成等。最后...
15种高级RAG技术：从预检索到生成全面提升RAG效果
机器学习社区
10-04 1680
随着检索增强生成（RAG）系统的快速发展，它为增强对话式 AI 和其他生成式 AI 应用提供了许多机会。本文的实验和研究突显了先进的 RAG 技术在以下方面的潜力：信息密度检索准确性用户响应质量如果正确实施，这些技术可以为企业带来更高的成本效益，并改善客户体验。但为了跟上快速涌现的最佳实践，软件工程师和数据科学家需要及时、可信赖的资源作为参考。
RAG技术实战血泪史：18次实验后的最佳方案选择指南
2401_85373691的博客
04-01 988
如果你真的想学习大模型，请不要去网上找那些零零碎碎的教程，真的很难学懂！你可以根据我这个学习路线和系统资料，制定一套学习计划，只要你肯花时间沉下心去学习，它们一定能帮到你！
15种高级RAG技术：从预检索到生成全面提升RAG效果，收藏这一篇就够了
Python_0011的博客
09-03 1226
随着检索增强生成（RAG）系统的快速发展，它为增强对话式 AI 和其他生成式 AI 应用提供了许多机会。本文的实验和研究突显了先进的 RAG 技术在以下方面的潜力：信息密度检索准确性用户响应质量如果正确实施，这些技术可以为企业带来更高的成本效益，并改善客户体验。但为了跟上快速涌现的最佳实践，软件工程师和数据科学家需要及时、可信赖的资源作为参考。
AI大模型王炸辅助-RAG到底有什么能耐？一文揭秘检索增强生成技术（RAG）的几种工作类型与其背后的奇思妙想
EnjoyEDU的博客
06-21 1698
检索增强生成（RAG）技术通过让大型语言模型（LLM）在生成回答之前能够查询权威知识库，从而优化了LLM的输出。这些LLM经过大量数据的训练，具备数十亿参数，能够完成包括回答问题、语言翻译和句子补全在内的多种任务。它对于AI大模型效果优化非常重要，小纸条之前也写过很多相关内容一文带你掌握RAG的第一步-文本分块！人人都能看懂的AI技术原理科普，数据处理、文本切割到底是怎么回事？。RAG技术通过允许LLM访问特定领域的或组织内部的数据库，增强了模型输出的相关性、精确度和实用性，而无需重新训练模型。
2024最新最全：15种高级RAG技术，从预检索到生成全面提升RAG效果，收藏这一篇就够了
wholeliubei的博客
09-03 1965
随着检索增强生成（RAG）系统的快速发展，它为增强对话式 AI 和其他生成式 AI 应用提供了许多机会。本文的实验和研究突显了先进的 RAG 技术在以下方面的潜力：信息密度检索准确性用户响应质量如果正确实施，这些技术可以为企业带来更高的成本效益，并改善客户体验。但为了跟上快速涌现的最佳实践，软件工程师和数据科学家需要及时、可信赖的资源作为参考。
RAG技术架构深度解析（非常详细）零基础入门到精通，收藏这一篇就够了
Javachichi的博客
08-10 2923
本文主要介绍了RAG技术架构在AI编程中的创新应用及其面临的挑战。文章深入分析了RAG技术架构的兼容性、实时性和智能化水平等方面的问题，并提出了相应的改进措施，如加强标准化建设、引入实时数据处理技术和先进算法模型。同时，文章预测了RAG技术架构在智能化水平持续提升、跨领域融合加速以及数据隐私与安全保障方面的未来发展趋势。最后，文章回顾了RAG技术在AI编程领域的应用成果，并展望了其广阔的应用前景，同时设定了未来研究方向和目标，以推动RAG技术的进一步发展和优化。第一章 RAG技术概述与基本原理。
一文把 RAG 每步的技术难点说明白
m0_59164304的博客
06-24 1279
检索出来的结果在给大模型之前，还要 prompt 优化，包括 prompt 加上 step by step ，针对场景的加上相应的提示词等。最后的结果依赖大模型的理解，生成，逻辑推理能力。大模型能力的强弱也直接决定 RAG 的效果。所以大家会看到要把 RAG 作为大模型应用目前主要落地场景，但还是有非常多改进的空间的，这方面的创业公司也很多，技术发展也很快，机会很多。现在典型的 RAG框架有 dify，FastGPT ，百度智能云的 App builder等，大家都可以去试一试。
2024年对于RAG技术的梳理
baidu_39502385的博客
12-24 1353
RAG技术,全称Retrieval-Augmented Generation,中文译为“检索增强生成”。它是一种结合了信息检索与文本生成技术的新型人工智能框架。RAG技术的核心理念在于将传统信息检索系统的优势与生成式大语言模型的功能相结合,使大型语言模型（LLM）能够充分利用外部知识库中的信息,撰写更准确、更具时效性且更贴合具体需求的文字。RAG技术的工作流程主要包括检索、增强和生成三个步骤：1.检索（Retrieval）：模型先从外部知识库或文档库中检索与输入问题相关的信息。
最全的RAG技术概览
小然的百宝盒
01-11 624
介绍 基础RAG 高级RAG 1. 分块和向量化 1.1 分块 1.2 向量化 2.搜索索引 2.1向量存储索引 2.2 层次索引 2.3 假设性问题和HyDE 2.4 上下文增强 2
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一休哥助手

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值