LLaMoCo: Instruction Tuning of Large Language Models for Optimization Code Generation

本文是LLM系列问题，针对《LLaMoCo: Instruction Tuning of Large Language Models for Optimization Code Generation》的翻译。

摘要

最近的研究探索了使用大型语言模型（LLM）的优化，方法是迭代地从LLM中寻找下一步解决方案，或者直接提示LLM使用优化器。然而，这些方法表现出固有的局限性，包括操作效率低、对提示设计的敏感性高以及缺乏特定领域的知识。我们介绍了LLaMoCo，这是第一个指令调优框架，旨在调整LLM，以代码对代码的方式解决优化问题。具体来说，我们建立了一个全面的指令集，其中包含描述良好的问题提示和有效的优化代码。然后，我们开发了一种新的两阶段学习策略，该策略在指令调整阶段之前结合了基于对比学习的预热过程，以增强模型微调期间的收敛行为。实验结果表明，与GPT-4 Turbo和其他竞争对手相比，我们的LLaMoCo微调的CodeGen（350M）模型在合成和现实问题集上都实现了卓越的优化性能。微调后的模型和使用说明在https://anonymous.4open.science/r/LLaMoCo-722A上可用。

1 引言

2 相关工作

3 LLaMoCo

4 结果和讨论

5 结论

我们介绍了LLaMoCo，这是第一个将通用LLM调整为专家级系统来解决优化问题的指令调整框架。为了实现这一点，我们精心构建了一个包含超过30k个演示示例的指令集，然后使用一种新颖的两相指