2025_NIPS_Demystifying Reasoning Dynamics with Mutual Information: Thinking Tokens are Informatio...

文章主要内容总结

本文从信息论视角探究大型推理模型（LRMs）的内部推理机制，核心发现是互信息峰值（MI Peaks）现象——LRMs推理过程中，特定步骤的中间表示与正确答案的互信息（MI）会突然显著提升。这些峰值对应表达反思、过渡的“思考令牌”（如“Hmm”“Wait”“Therefore”），且此类令牌对推理性能至关重要。基于该发现，作者提出两种无训练优化方法：表征循环（RR）和基于思考令牌的测试时扩展（TTTS），均有效提升了LRMs在数学推理等任务上的性能。

核心创新点

1. 首次发现LRMs推理中的MI Peaks现象，证实该现象与模型推理能力强相关，且是推理密集型训练的特有产物（基础LLM无明显该现象）。
2. 揭示思考令牌（Thinking Tokens） 的核心作用：MI峰值对应的令牌多为反思、过渡类表达，抑制其生成会大幅降低推理性能，而随机抑制其他令牌无显著影响。
3. 提供理论支撑：证明累计互信息越高，模型预测误差的上下界越紧，从理论上解释了MI Peaks对推理准确性的促进作用。
4. 提出两种高效优化方法：无需重新训练，通过复用高MI表征（RR）或扩展思考令牌生成（TTTS），即可稳定提升LRMs推理性能。

---

翻译部分（Markdown格式）

Abstract

大型推理模型（LRMs）在复杂问题解决中展现出令