OpenCodeInterpreter: Integrating Code Generation with Execution and Refinement-优快云博客

本文是LLM系列文章，针对《OpenCodeInterpreter: Integrating Code Generation with Execution and Refinement》的翻译。

OpenCodeInterpreter：将代码生成与执行和优化集成

摘要
1 引言
2 代码反馈
3 实验设置
4 主要结果
5 相关工作
6 结论

摘要

大型语言模型的引入大大提高了代码生成的速度。然而，开源模型往往缺乏GPT-4代码解释器等高级系统的执行能力和迭代精化。为了解决这一问题，我们引入了OpenCodeInterpreter，这是一个开源代码系统家族，旨在生成、执行和迭代优化代码。在CodeFeedback（一个具有68K多回合交互的数据集）的支持下，OpenCodeInterpreter集成了执行和人工反馈，以实现动态代码细化。我们对OpenCodeInterpreter在HumanEval、MBPP及其EvalPlus增强版等关键基准测试中的全面评估揭示了其卓越的性能。值得注意的是，OpenCodeInterpreter33B在HumanEval和MBPP的平均（及以上版本）上实现了83.2（76.4）的准确度，与GPT-4的84.2（76.2）不相上下，并通过GPT-4合成的人类反馈进一步提高到91.6（84.6）。OpenCodeInterpreter带来了开源代码生成模型和GPT-4代码解释器等专有系统之间的差距。