Verified Multi-Step Synthesis using Large Language Models and Monte Carlo Tree Search

最新推荐文章于 2025-11-24 18:29:32 发布

UnknownBody

最新推荐文章于 2025-11-24 18:29:32 发布

阅读量147

点赞数

CC 4.0 BY-SA版权

文章标签：语言模型人工智能自然语言处理

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/137365860

LLM 日更专栏收录该内容

828 篇文章

已下架不支持订阅

文章介绍了一种名为VMCTS的方法，结合大型语言模型（LLM）和蒙特卡洛树搜索（MCTS），在Dafny、Lean和Coq中生成验证过的程序。VMCTS通过验证器在每一步检查部分程序，增强LLM的综合能力。实验表明，VMCTS在解决已验证的编程问题上表现出色，甚至与增强版ChatGPT4竞争。未来的研究方向包括减少搜索的盲目性，通过更紧密地耦合LLM和验证器。

本文是LLM系列文章，针对《Verified Multi-Step Synthesis using Large Language Models and Monte Carlo Tree Search》的翻译。

摘要

我们提出了一种使用蒙特卡罗树搜索（MCTS）来指导大型语言模型（LLM）在Dafny、Lean和Coq中生成经过验证的程序的方法。我们称之为VMCTS的方法通过在每一步检查部分程序来利用搜索算法中的验证器。与LLM先验相结合，验证器反馈提高了开源模型的综合能力。在一组五个已验证的编程问题上，我们发现在四个问题中，即使重新采样一个小时的解决方案，基本模型也无法解决问题，VMCTS可以在6分钟内解决问题。VMCTS的基本模型甚至与添加了插件和多次重试的ChatGPT4相比具有竞争力。我们的代码和基准测试在https://github.com/namin/llm-verified-with-monte-carlo-tree-search可用.