
文章核心总结与翻译
一、主要内容
文章聚焦推理大型语言模型(RLLMs)的元认知幻觉问题,通过审计思维链(CoT)轨迹和模型认知置信度,系统探究幻觉的产生、演化机制及现有检测与干预方法的缺陷。构建了受控知识域区分两类幻觉(训练中见过但未学会、未见过或错误知识),发现长CoT场景下,模型会通过有缺陷的反思过程强化偏差和错误,且存在“链不忠”现象——即使在幻觉源头干预也难以纠正。同时证实现有幻觉检测方法在复杂多步推理中可靠性和可解释性不足,最终提出一种无需访问模型参数、适用于黑盒场景的长链幻觉归因审计方法。
二、创新点
- 首次在受控知识域中系统建模长CoT幻觉的演化过程,明确两类幻觉的产生路径与传播规律。
- 揭示元认知置信度误判与提示对齐偏差是幻觉强化的核心机制,发现反思行为会放大而非修正错误。
- 提出黑盒场景下的长链幻觉归因审计方法,相比需访问模型参数的电路追踪,具有更强的泛化性和实用性。
- 量化验证现有检测与干预方法的局限性,为后续模型优化提供明确方向。
三、核心部分翻译(Markdown格式)
Abstract
推理大型语言模型(RLLMs)的发展显著提升
订阅专栏 解锁全文
3211



被折叠的 条评论
为什么被折叠?



