Domain Adaptation 与 Generative Adversarial Network

本文介绍了一种名为DANN的无监督域自适应方法,该方法通过使用生成对抗网络(GAN)的思想来实现跨域学习。DANN由特征提取器、类别分类器和域分类器组成,通过负梯度层实现端到端训练。当域分类器无法区分源域和目标域样本时,表明模型已具备域无关的特征提取能力。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

域自适应生成对抗网络

1、《Unsupervised domain adaptation by backpropagation》

pytorch 代码:https://github.com/fungtion/DANN

文章:http://sites.skoltech.ru/compvision/projects/grl/files/paper.pdf

扩展版文章:Domain-Adversarial Training of Neural Networks

网络结构:

细节:①网络简称DANN,文章发表于2015年ICML,与GAN(2014年NIPS)同时期,DANN参考文献中有GAN。DANN思想与GAN类似,通过额外的域分类器(domain classifier),当其不能区分任意样本是否来自源域(source domain)或目标域(target domain)时,可以认为对源域的方法同样适用于目标域。

          ②网络包含通用特征提取器(feature extractor,绿色)、类别分类器(label predictor,蓝色)、域分类器(domain classifier,红色)三部分。特征提取器用于提取与域无关的(domain-invariant)判别式特征,这样可以使得在源域学习的模型同样可泛化至目标域。类别分类器与源域和目标域的任务相关,如分类、分割等。域分类器用于判别输入样本来自源域或目标域。具体思想可参考GAN。

          ③与GAN训练方式不同,为了使网络可以端到端的训练,在特征提取器与域分类器之间添加了一层负梯度层(gradient reversal layer),直白来说,特征提取器期望提取判别性特征迷惑域分类器(最大化域分类损失),而域分类器期望能准确区分样本分布(最小化域分类损失),添加负号使二者统一。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值