From Efficiency to Adaptivity: A Deeper Look at Adaptive Reasoning in Large Language Models

文章总结与翻译

一、主要内容

该文章聚焦大型语言模型（LLMs）的推理能力，突破了以往研究仅关注“效率”（缩短推理链、降低计算成本）的局限，以“适应性”为核心重构了LLM推理研究框架。

核心定义与基础

• 定义自适应推理：模型根据输入的难度、不确定性等特征，灵活分配推理资源（如推理深度、长度、策略）的能力——对简单任务快速响应，对复杂/陌生任务投入更多刻意推理，契合人类认知资源分配模式。
• 形式化三大经典推理范式：在LLM语境下明确演绎推理（基于逻辑规则推导必然结论）、归纳推理（从示例中泛化隐含规则）、溯因推理（为观测结果生成合理解释）的算法实现形式。
• 双重视角建模推理：将推理视为“ latent-variable条件生成过程”（通过中间推理轨迹连接输入与输出）和“资源受限优化问题”（平衡任务性能与计算成本）。

自适应推理分类体系

文章提出系统分类法，将现有方法分为两大类：

类别	核心特征	具体实现方式
训练基方法（Training-based）	通过训练使模型内化自适应策略	1. 强化学习（如IBPO、LCPO）：将推理精度与效率融入优化目标； 2. 监督微调与蒸馏（如C3oT、So