ShadyPi的IT笔记

Natural Language to Domain Specific Language

DeepSeek-R1

DeepSeekMath: GRPO

PPO in LLM Training

DeepMind AlphaCode

Codex from OpenAI

NLP interview questions

【Code】Implementation of Multi-Head Self-Attention and Transformer Block。

使用预训练语言模型标注表格数据类型以及数据关系

CLIP、BLIP以及BLIP2

核心：多模态、可解释。

Polish Questions to Catch the Inclination of Large Language Model: A Technical Report。

总体架构Optimization by PROmpting (OPRO)：最开始输入meta-prompt，这个初始的meta-prompt基本上只是对优化任务进行了描述(也会有few-shot example)。输入后LLM便会生成一个solution，这个solution由objective function评估并打分。(solution, score)组合成一对添加到meta-prompt中，如此完成一个循环。多次循环后取分数最高的solution作为优化结果。

核心思想是通过instruction让LLM来优化问题本身，从而达到更好的效果，且这种针对问题的优化可以跟其他的prompt技术，如CoT或者Least-to-Most相结合。

ACL2023 prompt相关文章速览

虽然CoT作为一种prompt形式在提高LLM的表现上有很好的效果，但此前有研究表明CoT并不能在小规模的LM（参数

基于此，作者提出了一种集成prompt方法，在少量的训练集上选出优秀的prompt以后，根据他们的表现赋予不同的权重，表现越好的prompt权重越高，之后将这些prompt的分类预测加权在一起，得到最后的分类。而模型的能力也对搜索次数有影响，越大的模型需要的搜索次数越少。除了多个prompt对一个input，那自然也有一个prompt对多个input，作者统计了prompt在整个数据集上的表现，除了有66个类的最难的Few-NERD，其他数据集都能找到一个表现不错的prompt。

主要的收集方法依然是基于LLM生成，首先人工手写并筛选出精品CoT样例，之后以这些样例为demo，让LLM输出某个问题的推理过程（rationale），从而获得大量的带rationale的问题作为数据集。最后，作者对生成的这些rationale进行了评估，质量评估使用了ROSCOE的13个指标，又评估了rationale的多样性，显示他们的CoT Collection是更多样化的（动词更多样）。第四步，过滤生成的rationale，作者删掉了rationale中没出现答案的、太长的以及相同的。

港科的工作，主要着眼于CoT样例的生成和选取，数据增强的部分就是用已有的CoT样例做few-shot推理，让LLM生成新的CoT样例（或者直接用Zero-shot-CoT），将生成正确的样例加入到备选池子里。至于如何选择，则是将抽取样例的过程看成从一个随机分布里采样的过程。用一些参数构建一个随机分布，该分布的采样值对应不同的CoT样例。为了学习这个分布，作者采用了强化学习的方法。实验显示在各数据集上达到了SOTA。

基于soft prompt，但生成较可读的prompt，探寻优质prompt的特征

低困惑度的prompt更能提升LLM的性能

用soft prompt调教Vicuna，生成更好的instruction提高chatGPT的性能

Soft prompt 助力 Dialogue State Tracking 任务

弱Prompt在分类问题上的集成

NLP推理任务的Program-aimed样例生成

主要是2022年Prompt Engineering相关工作的梳理

整篇文章比较精髓的思想在于y​yppggpggp。