Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection

最新推荐文章于 2025-03-26 16:54:25 发布
原创 最新推荐文章于 2025-03-26 16:54:25 发布 · 1.4k 阅读 · 21 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #机器学习 #深度学习

文章介绍了Self-RAG，一种改进的问答系统，它通过自我决策和生成模型来提高回答质量。该系统在推理阶段灵活地决定是否使用外部知识库，并通过Critic和Generator模型协同工作进行训练。尽管有其优点，如评估和反思能力，但文中也指出存在时间成本和回答完整性的问题，期待后续优化。

背景

RAG通过外挂知识库解决事实错误，往往引入大量的上下文 token，有些时候可能不是必要的。

Self-RAG 从大模型自身的能力出发，自我决策整个过程，生成更高质量的问答。

下面是一个简单的对比图，后面有详细的解释：

推理

整个推理过程以 Segment 为基本单位，从论文后面给的例子来看这个 Segment 就是指每一句话。在拿到问题时，区别于传统的 RAG 直接进行检索，Self-RAG 的生成模型 Generator 会首先生成特殊的 token [Retrieve=Yes/No] ，这一步决定是否要通过检索来生成对应的回答，可以自适应的调整阈值来控制结果。

当 [Retrieve=Yes] 确定触发检索后，Generator 会首先对召回的文本做相关性评估，引入特殊 token [IsREL=relevant/irrelevan

最低0.47元/天 解锁文章
SELF-RAG: LEARNING TO RETRIEVE, GENERATE, AND CRITIQUE THROUGH SELF-REFLECTION
c_cpp_csharp的专栏
10-20 1251
尽管大型语言模型（LLM）具有非凡的能力，但由于它们仅依赖于所封装的参数知识，因此它们通常会产生包含事实不准确的响应。检索增强生成（RAG）是一种通过检索相关知识来增强LM的特别方法，减少了此类问题。然而，不分青红皂白地检索和合并固定数量的检索段落，无论检索是否必要，或者段落是否相关，都会削弱LM的通用性，或者可能导致无益的响应生成。我们引入了一个新的框架，称为自反射检索增强生成（Self-RAG），通过检索和自反射来提高LM的质量和真实性。
SELF-RAG: 当AI学会自我反思，检索、生成与批评能力全面提升
步子哥的博客
09-11 1111
SELF-RAG的出现无疑是AI发展历程中的一个重要里程碑。它不仅提高了AI系统的性能,更重要的是开创了一种新的思路:让AI具备自我反思和改进的能力。这种能力使AI更接近人类的认知过程,为构建更智能、更可靠的AI系统铺平了道路。然而,我们也要认识到,尽管SELF-RAG取得了令人瞩目的成果,但它仍处于早期阶段。未来还需要更多的研究来优化其性能、扩展其应用范围,并解决可能出现的伦理和安全问题。总的来说,SELF-RAG为我们展示了AI的美好前景。
SELF-RAG: Learning to Retrieve, Generate, and Critique Through Self-reflection
北风吹过的秋
06-02 800
更多文章，请关注微信公众号：NLP分享汇下面介绍的这篇论文是最近被ICLR 2024 accepted oral，作者来自University of Washington & Allen Institute for AI & IBM Research AI。大语言模型（LLMs）尽管功能强大，但它们生成的响应常常包含事实性错误，这是因为它们只依赖于模型内部的参数知识。现有方法的局限性：检索增强生成（RAG）是一种通过检索相关知识来增强语言模型输入的方法，它减少了知识密集型任务中的事实错误。
SELF-RAG: LEARNING TO RETRIEVE, GENERATE, AND CRITIQUE THROUGH SELF-REFLECTION----自我反思：学会通过自我反思来检索
Mars_prime的博客
03-28 1824
尽管大型语言模型（LLM）具有非凡的能力，但由于它们完全依赖于它们封装的参数知识，因此通常会产生包含事实不准确的响应。检索增强生成（RAG）是一种通过检索相关知识来增强语言模型的临时方法，可以减少此类问题。然而，不加区别地检索和合并固定数量的检索到的段落，无论检索是否必要，或者段落是否相关，都会降低 LM 的多功能性或可能导致生成无用的响应。我们引入了一个名为自反射检索增强生成（SELF-RAG）的新框架，它通过检索和自反射来提高 LM 的质量和事实性。
论文 | SELF-RAG: LEARNING TO RETRIEVE, GENERATE,AND CRITIQUE THROUGH SELF-REFLECTION
m0_49651195的博客
06-20 1933
因此，在评估这次输出的IsSup（响应支持度）的分数时，就可以基于logprobs中这些tokens的概率来计算（上面例子中，显然[Fully supported]这个token的概率越高，说明支持度越高）。（就是假设LLM是一个优秀的学生，那么RAG就是一本参考书，这个问题就是LLM在考试的时候可以翻阅参考书，但是选取的知识点用来解答问题不是考题所涉及的知识点，所以最终会导致回答错误）比如提供的知识中只有“中国的首都是北京”，而输出内容中有“北京是中国的首都，北京最受欢迎的景点是长城。
SELF-RAG: LEARNING TO RETRIEVE, GENERATE, AND CRITIQUE THROUGH SELF-REFLECTION翻译
nopSled
10-26 1329
尽管模型和数据规模不断扩大，SOTA的LLM仍然会产生事实类错误。检索增强生成 (RAG) 方法（图 1 左）通过检索相关段落来增强LLM的输入，从而减少知识密集型任务中的事实错误。然而，这些方法可能会阻碍LLM的多功能性，或者引入不必要的或偏离主题的段落，从而导致低质量的生成，因为它们不加区别地检索段落，而且不管事实基础是否有帮助。此外，不能保证输出与检索到的相关段落一致，因为模型没有经过明确的训练来利用和遵循所提供段落中的事实。
【论文阅读】Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection
qq_52852138的博客
10-24 1100
论文阅读：Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection
《Self-Rag: Learning to Retrieve, Generate, and Critique through Self-Reflection》论文阅读
最新发布
Barbie_WZC的博客
03-26 1054
自我反思检索增强生成（SELF-Rag）:1. 确定是否需要检索给定输入提示和生成内容，SELF-Rag决定是否需要用检索到的文档来增强后续生成。如果需要检索，模型会生成一个检索标记，调用检索模型按需检索相关文档。2. 处理检索到的文档SELF-Rag同时处理多个检索到的文档，评估这些文档的相关性。模型会生成相关性标记（ISREL token）来评估每个文档是否与输入相关。3. 生成任务输出在评估文档相关性后，模型生成相应的任务输出。模型会生成支持性标记。
论文翻译 | SELF-RAG: 学习通过自我反思来检索、生成和评估
m0_49651195的博客
06-21 1654
尽管大语言模型（LLMs）具有非凡的能力，但是它们经常产生不符合事实的响应，因为它们只依赖于它们封装的参数化知识。检索增强生成(retrieve - augmented Generation, RAG)是一种通过检索相关知识来增强LMs的特殊方法，减少了此类问题。然而，不加选择地检索和合并固定数量的检索段落，无论检索是否必要，或者段落是否相关，都会降低LM的通用性，或者可能导致无益的响应生成。
【RAG 论文】Self-RAG：引入自我反思的大模型 RAG 框架
VLyb
04-21 8652
Self-RAG：在 RAG 框架中引入自我反思机制，提高检索增强的效果
Self-RAG：通过自我反思学习检索、生成与批判
2401_84208172的博客
10-16 1285
本文介绍了一种新的框架Self-Reflective Retrieval-Augmented Generation (SELF-RAG），旨在通过需检索和自我反思机制来提高大型语言模型（LLMs）的生成准确性和事实性。现有检索增强生成（RAG）方法虽能减少LLMs因参数化知识导致的事实错误，但存在检索无关信息或未能充分利用检索结果的问题。SELF-RAG允许任意LLM自适应地选择相关段落，并利用特殊标记进行内容生成与反思，从而在保持多样性的同时提升准确性。相比以往方法，该框架不仅改进了生成质量，还兼顾了运行
Self-RAG：通过自我反思学习检索、生成和批判
安静的软件工程师
01-20 2527
Self-RAG学习检索、生成和批评，以提高 LM 的输出质量和真实性，在六项任务上优于 ChatGPT 和检索增强的 LLama2 Chat。
SELF-RAG: 通过自我反思学习检索、生成和批判
Yuleave的博客
01-21 1567
SELF-RAG 是一种创新的框架，通过按需检索和自我反思来提高 LLM 的生成质量和事实准确性。实验结果表明，SELF-RAG 在多个任务上均优于现有的 LLM 和 RAG 方法。SELF-RAG 的核心思想是让 LLM 在生成过程中进行自我反思，并通过生成特殊的**反思标记（Reflection Tokens）**来控制其行为。SELF-RAG 在推理过程中通过生成反思标记来自我评估其输出，从而实现对模型行为的控制。来提高 LLM 的生成质量和事实准确性，同时不损害其创造力和灵活性。
SELF-RAG: 让LLM集检索，生成跟评判等多种能力于一身
WitsMakeMen的专栏
11-18 1227
尽管基础能力出众，但是大模型只能依赖于被压缩到模型参数中的知识，所以经常会生成不符合事实的回复。针对这种事实性错误，目前主流的解决方案是知识增强，引入外部的知识源来引导模型生成。但是不考虑具体情形，一味地去检索外部文档可能会损害语言模型的多样性，生成不合适的回复。基于此，有研究人员提出了Self-Reflective Retrieval-Augmented Generation(SELF-RAG)，一种新的大模型知识增强框架，可以通过检索跟自我反思提升大模型生成的质量跟事实可靠性。
Self-RAG讲解
xnuscd的博客
11-12 1557
首先，定义图的状态结构，包含问题、生成的回答、是否进行网络搜索以及相关文档列表。表示图的状态。属性：question: 用户问题generation: LLM生成的回答web_search: 是否进行网络搜索documents: 文档列表解释：GraphState：定义了图的状态结构，包括用户问题（question）、生成的回答（generation）、是否进行网络搜索（web_search）和相关文档列表（documents构建图的逻辑流程，包括检索、生成、评分和重写等节点。"""
大模型RAG(检索增强)创新--SELF-RAG
编程就像打游戏，编出一个项目就打过了一个BOSS
02-27 877
检索增强生成 (RAG) 提供了一种将 ChatGPT/GPT-4 等大型语言模型与自定义数据集成的途径，但存在局限性。让我们看看 RAG 最近的研究是如何解决一些问题。大语言模型(LLM)将改变整个金融领域。其中一个场景是大语言模型可以学习大量文档，并在很短的时间内分析趋势并分析收益。但存在的问题是很多时候你得到的答案只是部分且不完整的。举例来说，您有一个文档，其中包含 X 公司过去 15 年的年收入，但位于不同的段落。
RAG实战篇：Self-RAG，通过自我反思大幅提升内容生成质量
m0_59164304的博客
10-17 1165
在这篇文章中，详细介绍了如何通过Self RAG来优化最终生成结果。Self RAG的核心在于四个关键的评分器，即检索需求评分器、检索相关性评分器、生成相关性评分器和回答质量评分器。至此，我们已经完成了RAG系统全部环节的优化方案，包括索引、查询转换、路由、查询构建、检索召回和内容生成。至此，相信大家对RAG系统已经有了更加深刻的认识，并且能够搭建一个相对完整的RAG系统。在整个RAG的生态中，还有两座山峰是我们绕不过去的。一座是RAG和知识图谱的结合，用于大幅提升RAG系统的推理和总结能力；
【论文速读】Self-Rag框架，《Self-Rag: Self-reflective Retrieval augmented Generation》
bylander的博客
05-30 1719
Self-Rag框架训练一个任意的LLM，使其能够根据需求按需检索段落，并使用特殊的反思token来生成和反思检索到的段落以及自身的生成内容。反思token在推理阶段使LLM可控，使其能够根据不同任务需求调整行为
【AI论文精读6】SELF-RAG（23.10）P1
AI完全体
10-18 1727
论文精读：该论文训练了一个单一的语言模型，该模型能够根据需要自适应地进行段落检索。在多项任务上显著超越了当时最新的大型语言模型和检索增强模型。我前面读的两篇RAG综述论文都提到了它。它是我后面要读的一篇RAG论文的重要基础。代码和模型开源，且附录部分有对实验部分的详细说明，方便学习和参考。这是第1部分。
Self-RAG：通过自我反思提升生成真实性与质量
压缩包中的文件名“self-rag-main”暗示该项目具有完整的开源实现，便于研究人员复现实验、拓展功能或部署至实际系统中。 综上所述，Self-RAG代表了一种向更具自主性、可解释性和可靠性的人工智能语言模型迈进的...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值