Select-Then-Decompose: From Empirical Analysis to Adaptive Selection Strategy for Task Decomposit...

文章核心总结与创新点

一、主要内容

1. 研究背景：大型语言模型（LLMs）在推理和规划任务中表现突出，任务分解成为解决复杂问题的关键技术，但现有方法多聚焦工具使用、反馈机制等，忽视了性能与成本的权衡。
2. 分类体系：提出6类任务分解分类方案，涵盖分解与执行的交互顺序、LLM调用次数、拓扑结构、表示格式、子任务选择范围、是否使用工具，重点研究前3类并筛选5种代表性方法（CoT、P&S、ReAct、P&E、P&E (DAG)）。
3. 实证分析：围绕3个核心影响因素（分解方法类型、任务特征、模型配置）展开实验，得出3大关键发现：
   • 现有方法存在性能-成本困境；
   • 任务特征决定分解的顺序、调用形式和拓扑结构；
   • 扩展执行模型比扩展分解模型更能提升性能，推理模型可进一步优化执行阶段。
4. 策略提出：设计Select-Then-Decompose（S&D）闭环策略，包含选择、执行、验证三大模块，根据任务特征动态选择最优分解方法，通过验证模块保障结果可靠性。
5. 实验验证：在GSM8K、MATH等5个客观基准和MT-bench主观基准上验证，S&D始终处于帕累托前沿，在性能与令牌成本间实现最优平衡。

二、创新点