APR MCTS: Improving LLM-based Automated Program Repair with Iterative Tree Search

文章主要内容和创新点

主要内容

本文提出了一种名为APRMCTS的方法，旨在通过迭代树搜索改进基于大语言模型（LLM）的自动程序修复（APR）技术。

• 背景：现有基于LLM的APR方法多采用试错策略，存在两大缺陷：一是局部探索导致补丁有效性有限，二是冗余探索导致搜索效率低下。
• 方法设计：APRMCTS整合蒙特卡洛树搜索（MCTS），通过全局评估已探索的补丁，选择最具潜力的补丁进行后续优化和生成，解决了局部最优和搜索效率问题。其核心流程包括四个阶段：补丁选择（基于UCT值）、补丁生成（结合思维链（CoT）和自我反思）、补丁评估（自适应使用LLM-as-Judge和Test-as-Judge）、补丁树更新（反向传播更新节点值）。
• 实验结果：在Defects4J的835个bug上的实验显示，APRMCTS与GPT-3.5结合可修复201个bug，优于所有现有基线；能为GPT4o-mini、GPT-3.5、Yi-Coder-9B、Qwen2.5-Coder-7B分别多修复30、27、37、28个bug。此外，APRMCTS仅需16或32个补丁（远少于现有研究的500或10,000个），时间成本和金钱成本分别低于现有方法的20%和50%，在复杂bug修复中优势显著。