本文详细介绍了LLM微调的四种方法：Prefix-Tuning、Prompt-Tuning、P-tuning及其优化版P-tuning-v2。内容涉及硬提示与软提示的区别，各方法的工作原理，如Prefix-Tuning通过在模型层前添加连续的可学习权重向量，Prompt-Tuning使用任务特定的Prompt并只更新特定Token的Embedding，P-tuning结合软硬提示，以及P-tuning-v2对小型模型和复杂任务的优化策略，包括深度提示优化和多任务学习等。
🔥 下面我只是分析讲解下这些方法的原理以及具体代码是怎么实现的，不对效果进行评价，毕竟不同任务不同数据集效果差别还是挺大的。
文章目录
0、hard prompt & soft prompt区别
- hard prompt (离散)：即人类写的自然语言式的prompt。
- soft prompt (连续)：可训练的权重，可以理解为伪prompt。【毕竟nn是连续的模型，在连续空间中优化离散的prompt， 难以优化到最佳效果。额也就是说所谓的hard prompt对于人类来说好理解，但模型不一定好理解，所以不妨丢给模型去学习处更好理解的prompt】
1、Prefix-Tuning
训练参数：prefix相关参数
- 在生成任务中被提出。如上图所示，在每一层transformer层加入了prefix ，它是连续的可学习权重向量(即soft prompt)，训练时
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
