在会议上听一位老师介绍得一篇比较权威的迁移学习综述,
https://arxiv.org/pdf/1808.01974.pdf
文章中总结了目前迁移学习的四种方法:
1,直接对源域数据集进行迁移,给源域数据集加上适当的权重与目标域数据集共同训练样本。
2,将源域和目标域数据集共同映射到同一个数据空间,对新数据空间中的数据进行训练,提到了TCA和MMC两个概念目前还不懂需要深入了解。(
参考文献中关于如何哪些网络结构适合迁移的文献,需要读一读:
Yosinski, J., Clune, J., Bengio, Y., Lipson, H.: How transferable are features in deep neural networks? In: Advances in neural information processing systems. pp.)
3,直接对网络架构进行迁移,就是finetune训练好的模型,因为网络前面层提取的特征往往是通用的。
4,利用GAN的思想进行对抗迁移学习,加鉴别器对不同域的特征进行鉴别,促使网络学习到更加通用的特征。
迁移学习综述:A Survey on Transfer Learning
最新推荐文章于 2025-06-16 16:21:13 发布