SEED: Customize Large Language Models with Sample-Efficient Adaptation for Code Generation

本文是LLM系列文章，针对《SEED: Customize Large Language Models with Sample-Efficient Adaptation for Code Generation》的翻译。

摘要

尽管大型语言模型（LLM）在代码生成方面取得了重大进展，但它们在特定场景中仍难以完成代码生成任务。这些场景通常需要对LLM进行调整以满足特定需求，但实践中可用的有限训练样本导致代码生成性能较差。因此，如何在很少的训练样本的情况下有效地将LLM适应新的场景是当前代码生成的一个主要挑战。在本文中，我们提出了一种新的自适应方法SEED，它代表了用于代码生成的带有错误驱动学习的样本有效自适应。SEED利用LLM犯下的错误作为学习机会，使用错误修正来克服自身的缺点，从而实现高效学习。具体而言，SEED包括识别LLM生成的错误代码，使用SELF-REVISIE进行代码修订，使用修订后的代码优化模型，并迭代调整过程以进行持续改进。实验结果表明，与其他主流微调方法相比，SEED在较少的训练样本下实现了优越的性能，在Pass@1在多个代码生成基准上。我们还验证了SELF-REVISE的有效性，它生成的修订代码与数据集的代码样本相比更有效地优化了模型。此外，SEED在各种LLM中始终表现出强大的性能，突出了其可推广性。

1 引言

2 动机示例

3 方法

4 评估

5 相关工作

6 对有效性的威胁

7 结论

在这项工作中，我们提出了SEED，这是一种用于代码生成的具有错误驱动学习的样本高效自适应，在样本有限的特定场景中提