SELF-CORRECTION BENCH: REVEALING AND ADDRESSING THE SELF-CORRECTION BLIND SPOT IN LLMS

文章主要内容和创新点

主要内容

1. 核心发现：大型语言模型（LLMs）存在“自我修正盲点”（Self-Correction Blind Spot），即能够识别并纠正用户输入中的错误，却难以纠正自身输出中的相同错误。对14个模型的测试显示，平均盲点率达64.5%。
2. 评估框架：提出“Self-Correction Bench”框架，通过在三个复杂度水平（低、中、高）上注入受控错误，系统测量LLMs的自我修正能力。三个数据集分别为：
   • 低复杂度：SCLI5（简单任务，如基础算术、字符顺序）；
   • 中复杂度：GSM8K-SC（多步推理任务，注入推理错误）；
   • 高复杂度：PRM800K-SC（真实场景错误，基于现有LLM输出的错误）。
3. 原因分析：该盲点与训练数据构成相关。人类演示数据多为无错误响应，缺乏纠错序列；而通过强化学习（RL）训练的模型因能通过结果反馈学习纠错，盲点较少。
4. 干预措施：在模型输出后简单添加“Wait”等修正标记，可使盲点减少89.3%，表明LLMs具备自我修正能力，但需要激活。

创新点

1. 首次发现并量化了LLMs的“自我修正盲点”现象，揭示其在纠正自身错误与外部错误上的系统性差异。
2. 构建了首个系统评估LLM自我修正能力的框架（Self-Correc