2025_NIPS_Reasoning Planning for Language Models-优快云博客

文章核心总结与翻译

一、主要内容

该研究聚焦于大型语言模型（LLMs）推理任务中的核心挑战——为不同查询选择最优推理方法，以平衡准确率与计算成本。现有方法常采用固定推理策略或通过生成多个候选答案聚合筛选，却忽略了查询与推理方法的适配性及计算开销问题。

研究首先通过严格的理论分析，推导了三种常见聚合方法（多数投票、分数求和聚合、分数最大值聚合）的准确率边界，揭示了候选答案数量（N）对推理效果的影响规律。在此基础上，提出了EPIC（Ensemble PlannIng with Contrastive learning）框架，其核心是通过对比学习构建共享表征空间，同时捕捉模型推理能力与查询-方法适配性。

EPIC的训练过程包含两个关键组件：一是对比损失函数，将问题嵌入向最优效用（准确率与token成本加权组合）的推理方法靠拢；二是正则化项，利用仅候选数量不同的推理方法间的共性提升样本效率。推理时，EPIC通过计算问题嵌入与推理方法嵌入的相似度，选择最优推理方法。

实验基于数学推理数据集（MATH、GSM8K）和代码生成数据集（LiveCodeBench）展开，结果显示：EPIC在保持相同准确率的情况下，可减少75%的token生成量（降低计算成本）；在跨模型、跨数据集场景中表现出良好的迁移性；相较于现有基线方法（如Best-of-N、MCTS、Offline Ada-BoK等），能灵活平衡准确率与成本，逼近方法库的性能上限。