【机器学习】机器学习的基本分类-自监督学习（Self-supervised Learning）

自监督学习是一种机器学习方法，介于监督学习和无监督学习之间。它通过数据本身生成标签，创建训练任务，从而学习数据的表征，而不需要人工标注的标签。这种方法在减少标注数据依赖、提高模型通用性等方面具有重要意义。

---

自监督学习的核心思想

1. 数据生成标签

自监督学习的基本思想是利用数据的结构性或内在特性生成伪标签，构造出预测任务。例如：

• 图像的不同部分之间的关系。
• 视频帧的时间顺序。
• 文本上下文之间的关联。

2. 预训练与微调

通常，自监督学习用于预训练一个深度学习模型，然后通过迁移学习（Transfer Learning）在目标任务上微调模型参数。

3. 表示学习

自监督学习的目标是从大量无标签数据中学习到通用、语义丰富的表征（embeddings），这些表征可以直接用于下游任务。

---

自监督学习的常见方法

1. 对比学习（Contrastive Learning）

通过比较样本之间的相似性和差异性，学习数据的表征。

• 典型方法：SimCLR、MoCo
• 关键思想：最大化正样本（如同一