A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models

最新推荐文章于 2026-01-09 21:51:15 发布
原创 最新推荐文章于 2026-01-09 21:51:15 发布 · 522 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#语言模型 #人工智能 #机器学习

本文是LLM系列文章，针对《A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models》的翻译。

关于 RAG遇见LLM 的调查：迈向检索增强的大型语言模型

摘要

作为 AI 中最先进的技术之一，检索增强生成 （RAG） 可以提供可靠和最新的外部知识，为众多任务提供巨大的便利。特别是在 AI 生成内容 （AIGC） 时代，在提供额外知识方面的强大检索能力使 RAG 能够协助现有的生成式 AI 生成高质量的输出。最近，大型语言模型 （LLM） 在语言理解和生成方面表现出革命性的能力，但仍然面临固有的限制，例如幻觉和过时的内部知识。鉴于 RAG 在提供最新和有用的辅助信息方面的强大能力，RetrievalAugmented Large Language Models （RA-LLM） 应运而生，它利用外部和权威知识库，而不是仅仅依赖模型的内部知识，来提高 LLM 的生成质量。在本次调查中，我们全面回顾了 RA-LLM 的现有研究，涵盖三个主要技术视角：架构、训练策略和应用。作为初步知识，我们简要介绍了 LLM 的基础和最新进展。然后，为了说明 RAG 对 LLM 的实际意义，我们按架构、训练策略和应用领域系统地回顾了主流相关工作，具体详细说明了每个工作的挑战以及 RA-LLM 的相应能力。最后，为了提供更深入的见解，我们讨论了当前的局限性和未来研究的几个有前途的方向。有关此调查的最新信息，请访问 https:// advanced-recommendersystems.github.io/ RAG-Meets-LLMs/。

1 引言

2 背景

了解本专栏 订阅专栏 解锁全文 超级会员免费看
论文阅读：A Survey on RAG Meeting LLMs: Towards Retrieval-AugmentedLarge Language Models
m0_53605808的博客
07-13 1153
作为人工智能领域最先进的技术之一，检索增强生成（RAG）能够提供可靠且最新的外部知识，为众多任务带来极大便利。尤其在人工智能生成内容（AIGC）时代，检索技术在提供额外知识方面的强大能力，使 RAG 能够辅助现有的生成式 AI 产出高质量结果。近年来，大型语言模型（LLMs）在语言理解与生成方面展现出革命性能力，但仍存在固有局限性，如幻觉现象和内部知识过时等问题。
虚构事实的担忧：大型语言模型的新知识处理能力
AI_Conf的博客
05-17 1191
大模型(LLM)是一种人工智能模型，旨在理解和生成人类语言。它们在大量的文本数据上进行训练，可以执行广泛的任务，包括文本总结、翻译、情感分析等等。LLM的特点是规模庞大，包含数十亿的参数，帮助它们学习语言数据中的复杂模式。这些模型通常基于深度学习架构，如转化器，这有助于它们在各种NLP任务上取得令人印象深刻的表现。
RAG 与 LLM 相遇：面向检索增强大语言模型的技术综述
yorkhunter的博客
05-26 1669
24年5月来自香港理工、百度和新加坡国立大学的论文“A Survey on RAG Meets LLMs: Towards Retrieval-Augmented Large Language Models”。
百度最新RAG综述：当RAG遇见LLM，面向检索增强的大语言模型
m0_59164304的博客
06-14 3601
检索技术是数据挖掘领域的一项基础技术，其核心功能是根据输入查询从外部数据源中提取相关信息。这项技术在多个领域，如搜索、问答和推荐系统等，都得到了广泛的应用。例如，Google、Bing 和百度等搜索引擎能够高效地过滤并检索与用户查询最相关的网页或文档，帮助用户快速找到所需信息。此外，检索模型通过维护外部数据库，为知识密集型任务提供了可信和及时的外部知识。在人工智能生成内容（AIGC）时代，检索技术与生成模型的结合催生了检索增强生成（RAG），这已成为生成 AI 领域的一项代表性技术。
一文看懂RAG的各种套路 | 综述：当RAG遇到大语言模型
zhishi0000的博客
06-14 1387
RAG检索增强生成（RAG）技术，作为 AI 领域的尖端技术，能够提供可靠且最新的外部知识，极大地便利了各种任务。在 AI 内容生成的浪潮中，RAG 通过其强大的检索能力为生成式 AI 提供了额外的知识，助力其产出高质量内容。尽管大型语言模型（LLMs）在语言处理上展现了突破性的能力，但仍受限于内部知识的幻觉和过时。因此，检索增强的 LLMs 应运而生，它们利用外部权威知识库，而非仅依赖内部知识，以提升生成质量。本综述全面审视了 RA-LLMs 的研究现状，从架构、训练策略到应用三个技术层面进行探讨。
Query Rewriting for Retrieval-Augmented Large Language Models
weixin_43961909的博客
06-29 1633
大语言模型（LLM）在检索--然后阅读（retrieve--then--read）管道中发挥着强大的黑盒阅读器的作用，在知识密集型任务中取得了显著进展。这项工作从查询重写的角度出发，为检索增强型 LLMs 引入了一个新的框架，即重写-检索-阅读（Rewrite-RetrieveRead），而不是以前的检索-重写-阅读（Retrieve-then-read）。与之前侧重于调整检索器或阅读器的研究不同，我们的方法关注的是搜索查询本身的调整，因为输入文本与检索所需的知识之间不可避免地存在差距。
RAG遇见LLMs：走向检索增强型大语言模型 A Survey on RAG Meets LLMs: Towards Retrieval-Augmented Large Language Models
数智笔记
05-14 654
作为人工智能中最先进的技术之一，检索增强生成（RAG）技术可以提供可靠且最新的外部知识，为众多任务提供了巨大便利。特别是在人工智能生成内容（AIGC）时代，RAG中检索的强大能力在提供额外知识方面使得检索增强生成能够辅助现有生成型人工智能产生高质量输出。最近，大型语言模型（LLMs）展示了在语言理解和生成方面的革命性能力，但仍面临固有限制，如幻觉和过时的内部知识。
Retrieval-Augmented Generation for Large Language Models A Survey
weixin_52185313的博客
06-23 2180
大型语言模型（LLMs）展示了令人印象深刻的能力，但也面临着如幻觉【2】、知识陈旧以及推理过程不透明和不可追踪等挑战。检索增强生成（RAG）通过从外部数据库中引入知识，成为一种有前途的解决方案。这样可以提高生成的准确性和可信度，特别是对知识密集型任务而言，并允许持续的知识更新和特定领域信息的集成。RAG协同融合了LLMs的内在知识和外部数据库的庞大、动态存储库。这篇全面的综述论文详细审查了RAG范式的发展，包括原始RAG、先进RAG和模块化RAG。它细致地审视了RAG框架的三部分基础：检索、生成和增强技术。
RAG Meeting LLMs
dotNET跨平台
08-25 229
<<< 左右滑动见更多 >>>论文标题：《A Survey on RAG Meeting LLMs: Towards Retrieval-Augmented Large Language Models》论文标题中文翻译：《关于RAG遇上LLM的研究调查：迈向检索增强型大型语言模型》摘要检索增强生成（RAG）作为人工智能中最先进的技术之一，可以为众多任务提供可靠且...
行业大模型落地的一些有趣调研总结
2301_81940605的博客
05-17 688
一个是目前RAG都有哪些综述，四大综述？一个是关于行业大模型的一些有趣总结，关于一个技术报告，会是在产研上的一个总结性结论。
arXiv AI 综述列表（2024.05.13~2024.05.17）
qq_44681809的博客
05-18 1493
公和众和号：EDPJ（进 Q 交流群：922230617 或加 VX：CV_EDPJ 进 V 交流群）每周末更新，完整版进群获取。Q 群在群文件，VX 群每周末更新。
LLMs之RAG：《Retrieval-Augmented Generation for Large Language Models: A Survey大型语言模型的检索增强生成研究综述》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
01-14 6297
​ LLM之RAG：《Retrieval-Augmented Generation for Large Language Models: A Survey大型语言模型的检索增强生成研究综述》翻译与解读 目录 《Retrieval-Augmented Generation for Large Language Models: A Survey大型语言模型的检索增强生成研究综述》翻译与解读 Abstract 1 Introduction 2 Definition 3 RAG Framework
基于LangChain与RAG技术构建智能客服问答系统：完整实现指南
weixin_46244623的博客
01-08 745
本文介绍了基于LangChain框架和RAG技术的智能客服系统构建方法。该系统整合了Ollama本地语言模型服务和FAISS向量数据库，能够高效检索项目文档并生成准确回答。文章详细阐述了系统架构、核心组件及实现代码，包括知识库构建、文档检索和回答生成流程。该系统可显著提升客服效率，支持网络搜索、数学计算、节假日查询等多种功能，并提供了良好的可扩展性。通过本地部署Qwen2.5模型，实现了安全可靠的智能客服解决方案。
[20页中英文PDF]生物制药企业新一代知识管理：用知识图谱+大模型构建“第二大脑“
01-07 465
药物研发正面临知识爆炸的挑战。本文深入探讨如何利用大语言模型和知识图谱技术构建企业级"第二大脑"，将分散的科研数据、文献和隐性知识整合为可搜索的知识库，实现60%的文档审查效率提升，并可能为制药行业创造600-1100亿美元的年度价值。
AI赋能金融科技，VisualProject引领项目管理新潮流
weixin_46916369的博客
01-06 533
金融科技项目管理迈入AI赋能新阶段，VisualProject引领智能化转型。随着金融科技竞争转向"体系化能力"，传统管理模式面临需求断层、资源失衡等痛点。维普时代推出的VisualProject通过AI深度融入项目全流程，实现智能需求解析、资源协同和风险预警，使招商银行等项目效率提升40%、延期率降至8%。该产品构建"数据驱动决策"体系，提供30余项核心指标分析，助力金融机构实现精准管理。未来，AI与项目管理的深度融合将持续推动金融科技高质量发展。
Skills详解：AI Agent 的模块化能力扩展系统
a18792721831的博客
01-09 728
Skills系统是AI Agent的模块化能力扩展方案，通过标准化方式将专业知识和操作流程打包为可复用模块。它采用分层架构设计，包含技能管理器、加载器和注册表等核心组件。系统创新性地使用渐进式加载机制，分为元数据、指令和资源三层，有效解决上下文窗口限制问题。Skills支持多维度智能匹配算法，通过语义、功能和优先级三个维度精准定位最适合的技能。相比传统插件系统，Skills更注重知识传递而非功能扩展，采用配置文件+资源包形式，维护成本更低。该系统适用于企业自动化、专业服务和开发工具链等场景，显著提升AI A
基于学科知识图谱的智能搜索平台研究与构建
专业代码设计
01-09 349
本论文针对传统搜索引擎的不足，提出基于学科知识图谱的智能搜索平台。平台通过构建知识图谱，实现学术资源的精准索引与高效检索。实验证明，相比传统搜索，本平台在准确性、速度和满意度上均有显著优势，为学科知识检索提供新方案，具重要理论和应用价值。
Web开发者进阶AI：Agent技能设计模式之迭代分析与上下文聚合实战
沛哥儿的专栏
01-09 618
迭代有界：必须设置maxDepth（如同Web分页的maxPage） 上下文隔离：按会话ID分区存储（Redis key前缀隔离） 技能自治：每个Skill保持无状态（如同RESTful原则）
【人工智能】LLM、RAG、MCP、AI Agent：图文详解
最新发布
wendao76的专栏
01-09 579
本文系统解析了四大AI核心技术：LLM（大语言模型）、RAG（检索增强生成）、MCP（模型上下文协议）和AI Agent（智能体）。LLM作为基础引擎提供语言能力，RAG通过实时检索解决知识过时问题，MCP确保工具调用的安全性，AI Agent则整合前三者实现自主任务执行。文章通过Mermaid流程图展示了各技术的工作原理和协作关系，并列举了主流应用案例（如GPT-4、通义千问、Microsoft Copilot等），最后以四层架构图揭示技术整合全景，帮助读者建立完整的AI技术认知框架。
OpenFOAMGPT: a RAG-Augmented LLM Agent for OpenFOAM-Based Computational Fluid Dynamics
08-23
OpenFOAMGPT 是一种基于检索增强生成（Retrieval-Augmented Generation, RAG）的大型语言模型（LLM）代理，专门用于基于 OpenFOAM 的计算流体动力学（Computational Fluid Dynamics, CFD）应用。该代理通过结合 RAG 技术和 OpenFOAM 的强大计算能力，旨在提升 CFD 仿真的效率和准确性。 ### RAG 在 OpenFOAMGPT 中的应用 在 OpenFOAMGPT 中，RAG 技术的核心作用是通过外部知识库来增强 LLM 的响应生成能力。具体来说，OpenFOAMGPT 利用 RAG 在生成响应之前检索与当前问题相关的权威知识，从而确保输出的准确性和相关性。这种机制特别适用于 CFD 这类知识密集型任务，因为 CFD 涉及复杂的物理模型和大量的数值计算，需要模型能够访问最新的研究进展和权威数据[^3]。 ### OpenFOAMGPT 的优势 1. **增强的准确性**：通过检索外部知识库，OpenFOAMGPT 能够提供更加精确的 CFD 分析和仿真建议。这种能力对于处理复杂的流体动力学问题尤为重要，因为这些问题通常需要基于最新的研究成果和权威数据进行建模。 2. **灵活性和可扩展性**：OpenFOAMGPT 的设计允许其灵活地适应不同的 CFD 应用场景。用户可以根据具体需求调整检索策略和生成模型的参数，从而优化仿真结果。 3. **实时更新能力**：RAG 技术使得 OpenFOAMGPT 能够动态地访问最新的研究进展和数据，确保其输出始终基于最新的科学知识。这对于快速发展的 CFD 领域来说是一个显著优势[^4]。 ### OpenFOAMGPT 的潜在应用场景 - **工业设计与优化**：在航空航天、汽车制造等领域，OpenFOAMGPT 可以用于优化设计和提高产品性能。 - **环境流体动力学**：OpenFOAMGPT 可以帮助研究人员更好地理解和预测大气和海洋中的流体现象。 - **教育与培训**：通过提供详细的 CFD 分析和可视化结果，OpenFOAMGPT 可以作为教育工具，帮助学生和工程师更好地掌握 CFD 技术。 ### OpenFOAMGPT 的实现示例 以下是一个简化的 Python 代码示例，展示了如何实现一个基于 RAG 的 LLM 代理来处理 CFD 问题： ```python import rag # 假设的 RAG 库 import openfoam # 假设的 OpenFOAM 库 class OpenFOAMGPT: def __init__(self, knowledge_base_path): self.knowledge_base = rag.load_knowledge(knowledge_base_path) self.model = rag.load_model("openfoamgpt-model") def query(self, user_input): # 检索相关知识 retrieved_knowledge = rag.retrieve(self.knowledge_base, user_input) # 生成响应 response = self.model.generate(user_input, retrieved_knowledge) return response # 使用示例 openfoamgpt = OpenFOAMGPT("path/to/knowledge/base") user_query = "如何优化飞机机翼的气动性能？" response = openfoamgpt.query(user_query) print(response) ``` 这段代码定义了一个 `OpenFOAMGPT` 类，该类加载了一个知识库和一个预训练的 LLM 模型。当用户提出问题时，系统会先检索相关知识，然后生成响应。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值