Week 14: 深度学习补遗：迁移学习

Week 14: 深度学习补遗：迁移学习

摘要

本周主要跟随李宏毅老师的课程学习了迁移学习相关的内容，主要对模型微调、多任务学习、领域对抗学习和零样本学习进行了较为深入的了解。

Abstract

This week, I primarily followed Professor Hung-yi Lee’s course to study topics related to transfer learning, gaining a deeper understanding of model fine-tuning, multi-task learning, domain adversarial learning, and zero-shot learning.

1. Transfer Learning 迁移学习

迁移学习产生的背景是，如果我们有大量与任务不直接相关的数据，是否能利用这些数据帮助我们完成任务？

例如，

• 同任务、异领域（招财猫、高飞狗图片分类与真实猫狗分类任务）；

• 异任务、同领域（大象、老虎图片分类和真实猫狗分类任务）。

因此，我们可以把不直接相关的数据称为Source Data，把直接相关的数据称为Target Data。

还有一个分类方式是通过Source Data和Target Data是否有标注来进行分类，例如：

<

	Target Data: Labelled	Target Data: Unlabelled
Source Data: Labelled