2025_NIPS_Who Reasons in the Large Language Models?

文章主要内容总结

该研究聚焦大型语言模型（LLMs）推理能力的来源这一核心问题，通过提出一套名为“网络听诊器（Stethoscope for Networks, SfN）”的诊断工具集，探究模型内部模块的功能分工。核心假设是：训练良好的LLMs中，推理能力主要由Transformer多头自注意力（MHSA）模块中的输出投影层（o_proj）主导，而其他模块更侧重支撑流畅对话。

研究通过四种“听诊器”工具展开验证：

1. Delta听诊器：对比基础模型与推理增强模型（如Qwen2.5系列与DeepSeek-R1-Distill系列）的权重差异，发现o_proj的L2范数变化最大（14B、32B模型中尤为显著），且相对权重变化呈现独特的双峰分布；
2. Merge听诊器：将推理模型的o_proj替换到基础模型中，结果模型在保持对话流畅性的同时，推理能力显著提升（AIME 2024基准准确率从0.067提升至0.200），而替换其他模块（如q/k/v_proj、MLP）会导致性能退化；
3. Freeze听诊器：在微调过程中仅冻结o_proj和归一化层（LN），模型仍能获得强推理能力，且训练速度提升3倍、GPU内存消耗显著降低，避免了全参数微调的过拟合问题；
4. Destruction听诊器：破坏o_proj后模型仍能生成符合语境的对话（Level III输出），而破坏q/k/v_proj、MLP等模块会导致对话功能失效，证实o_proj对对话能力影响极小。

基于实验结果，研究提