Prompt Selection and Augmentation for Few Examples Code Generation in Large Language Model

本文是LLM系列文章，针对《Prompt Selection and Augmentation for Few Examples Code Generation in Large Language Model and its Application in Robotics Control》的翻译。

摘要

小样本提示和逐步推理增强了大型语言模型（LLM）处理包括代码生成在内的复杂任务的能力。在本文中，我们介绍了一种提示选择和增强算法，旨在改进数学推理和机械臂操作。我们的方法结合了一个多阶段的示例扩充方案和一个示例选择方案。该算法通过选择一组例子来提高LLM的性能，这些例子增加了多样性，最大限度地减少了冗余，并增加了与问题的相关性。当与思维程序提示相结合时，我们的算法在GSM8K和SVAMP基准测试上的性能有所提高，分别提高了0.3%和1.1%。此外，在模拟桌面环境中，我们的算法超过了“代码即策略”方法，成功完成任务的次数增加了3.4%，使用的示例数量减少了70%以上。它能够丢弃对解决问题贡献不大的示例，从而减少了LLM驱动的机器人系统的推理时间。该算法还通过简化开发和部署过程、减少手动编程工作量和增强代码可重用性，为工业流程自动化提供了重要好处。

1 引言

2 相关工作

3 提出的算法

4 实验结果

5 结论

在这项工作中，我们提出了一种创新的算法，旨在优化LLM的提示选择和增强，重点是改