文献阅读：Large Language Models as Optimizers

• 文献阅读：Large Language Models as Optimizers
  • 1. 文章简介
  • 2. 方法介绍
    • 1. OPRO框架说明
    • 2. Demo验证
      • 1. 线性回归问题
      • 2. 旅行推销员问题（TSP问题）
    • 3. Prompt Optimizer
  • 3. 实验考察 & 结论
    • 1. 实验设置
    • 2. 基础实验结果
      • 1. GSM8K
      • 2. BBH
      • 3. 泛化性
    • 3. 消融实验
      • 1. meta-prompt
      • 2. 生成prompt的数目
      • 3. 起始点
      • 4. diversity
    • 4. 过拟合分析
    • 5. 与EvoPrompt的对比
  • 4. 总结 & 思考

• 文献链接：https://arxiv.org/abs/2309.03409

1. 文章简介

这篇文章是Google在23年9月发表的一个工作，在这篇文章当中，他们提出了一个OPRO的框架，在这个框架当中，他们使用LLM来模拟模型训练当中的optimizer，然后通过迭代的方式不断地预设的NLP问题进行持续迭代，从而获得最优的问题回答。

基于这个框架，文中首先在两个简单的问题上做了可行性验证：

1. 线性回归问题
2. 旅行推销员问题（TSP问题）

这个框架天然地适用于prompt的优化问题，因为这同样是一个有明确定义的文本优化问题，因此文中使用这个框架同样进行了LLM的prompt优化，然后在GSM8K和BBH两个NLP数据集当中获得了SOTA的结果。