大模型算法岗面试题系列（四十四）| prompt tuning 和 prefix tuning在微调上的区别是什么?

大模型面试

已于 2024-09-12 20:48:24 修改

阅读量1.1k

点赞数 8

文章标签：算法 prompt 人工智能 AI 大模型 AI大模型面试

于 2024-08-19 18:24:00 首次发布

本文链接：https://blog.youkuaiyun.com/Code1994/article/details/141332001

版权

面试题：prompt tuning 和 prefix tuning在微调上的区别是什么?

参考答案

Prompt Tuning 和 Prefix Tuning 都是在自然语言处理任务中对预训练模型进行微调的方法，但它们在实现细节和应用场景上有所不同。以下是它们之间的主要区别：

1）Prompt Tuning

核心思想：

Prompt Tuning 是一种轻量级的微调方法，其核心思想是将下游任务重新格式化为语言模型已经训练好的任务，比如文本分类任务可以转化为完形填空任务。
参数调整：

在 Prompt Tuning 中，通常只添加一组可学习的参数（称为 prompt embeddings），这些参数与输入文本一起嵌入到模型中，而预训练模型的参数保持不变。
参数数量：

由于只添加了少量的参数，因此 Prompt Tuning 的参数数量远少于全量微调。
训练效率：

由于需要更新的参数很少，因此训练速度更快，计算资源需求更低。
适用性：

适用于那些可以转化为预训练任务格式的下游任务，如文本分类、情感分析等。

2）Prefix Tuning

核心思想：

Prefix Tuning 类似于 Prompt Tuning，但它不是在输入文本中插入 prompt embeddings，而是在模型每一层的输入前添加一个可学习的“前缀”（prefix）。
参数调整：

Prefix Tuning 在模型的每一层都添加了可学习的前缀参数，这些参数会影响模型的每一层输出。
参数数量：

Prefix Tuning 通常比 Prompt Tuning 有更多的可学习参数，因为它为模型的每一层都添加了前缀。
训练效率：

虽然比全量微调效率高，但由于需要更新多个前缀参数，因此可能不如 Prompt Tuning 训练得快。
适用性：

Prefix Tuning 更适用于生成类任务，如文本生成、机器翻译等，因为它可以在不同层次上调整模型的行为。