2025_NIPS_Atom of Thoughts for Markov LLM Test-Time Scaling

文章核心总结与翻译

一、主要内容

该研究针对大语言模型（LLMs）推理时依赖大量历史信息导致计算冗余的问题，提出了基于马尔可夫过程的“思维原子”（Atom of Thoughts, AOT）推理框架。核心思路是利用马尔可夫过程的无记忆性，将复杂推理任务分解为一系列独立、低复杂度的“原子单元”，通过“分解-收缩”两阶段转换机制，在保持答案等价性的前提下逐步降低推理复杂度，同时支持与现有推理框架（如CoT、ToT、GoT）的无缝集成。

研究通过多领域实验（数学推理、代码生成、多跳问答）验证了AOT的有效性，在GPT-4o-mini、DeepSeek-V3等非推理型LLM和O3-mini、DeepSeek-R1等推理型LLM上均实现了性能超越，且随着计算预算增加表现持续提升。此外，AOT的模块化设计使其可作为插件优化现有框架，通过树搜索、反射精炼等技术扩展后，进一步揭示了推理轨迹向原子结构收敛的涌现特性。

二、创新点

1. 马尔可夫推理过程：提出通用的马尔可夫推理框架，每个状态封装独立问题，显著降低历史依赖，实现高效低成本推理。
2. 可扩展推理结构：基于马尔可夫链的基础设计支持与各类测试时扩展方法无缝集成，无需维护大量历史上下文，提升计算效率。
3. 原子推理特性</