大模型系列13-迁移学习（WIP）

迁移学习

在自然语言处理领域，迁移学习是一种关键技术，用于将从一个任务或领域中学到的知识迁移到另一个任务或领域中，从而减少训练时间、计算资源，并提升模型在特定任务上的表现。

预训练-微调是目前最主流的技术，配合 BERT、GPT 等大型模型，已经成为解决各种 NLP 问题的标配。而随着模型规模的增长，参数高效微调（PEFT，Parameter-Efficient Fine-Tuning）（如适配器和提示调优）逐渐成为热门选择，能够在保持性能的同时减少资源消耗。

预训练-微调（fine-tuning）

针对每个新任务调整全部原始参数$w$，完全微调涉及对预训练模型的所有参数进行调整，以适应新的任务或数据集。这种方法通常需要更多的计算资源和数据，因为模型的每个参数都可能需要根据新任务进行优化。完全微调的优点是它可以更好地适应新任务，特别是当新任务与预训练任务差异较大时。

预训练阶段：在大规模无监督数据（如海量文本语料库）上训练语言模型，学习通用的语言表示。微调阶段：在下游任务（如文本分类、机器翻译、问答系统）中，通过有监督学习调整预训练模型的部分或全部参数，使其适应特定任务。

参数高效微调（PEFT）的各种类型

PEFT 是 Parameter-Efficient Fine-Tuning（参数高效微调）的缩写。

LoRA（Low - Rank Adaptation）

LoRA 是 PEFT 中一种非常重要的方法。它的核心是通过低秩分解来表示模型的权重更新。对于预训练模型的一个权重矩阵$W$，可以将其分解为$W=W_0+BA$，其中$W_0$是原始的预训练权重，$B$和$A$是低秩矩阵。在微调过程中，只训练$B$和 A A