Metacognitive Retrieval-Augmented Large Language Models

本文是LLM系列文章，针对《Metacognitive Retrieval-Augmented Large Language Models》的翻译。

摘要

检索增强生成由于其在生成事实内容方面的功效而成为自然语言处理的核心。虽然传统方法采用单时间检索，但最近的方法已转向多跳推理任务的多时间检索。然而，这些策略受到预定义推理步骤的约束，可能导致响应生成的不准确。本文介绍了MetaRAG，这是一种将检索增强生成过程与元认知相结合的方法。从认知心理学的角度来看，元认知允许一个实体自我反思和批判性地评估其认知过程。通过整合这一点，MetaRAG使模型能够监测、评估和规划其响应策略，增强其内省推理能力。通过三步元认知调节管道，该模型可以识别初始认知反应中的不足之处并加以纠正。实证评估表明，MetaRAG显著优于现有方法。

1 引言

2 相关工作

3 前言

4 元认知RAG

5 实验设置

6 结果和分析

7 结论

在本文中，我们提出了MetaRAG，这是一种新的框架，将检索增强的LLM过程与人类启发的元