Re-weighted adversarial adaptation network for unsupervised domain adaptation

最新推荐文章于 2024-06-27 19:35:02 发布
最新推荐文章于 2024-06-27 19:35:02 发布
阅读量1.5k 收藏 2
点赞数
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/lihuahuanluoluo/article/details/88314956
本文提出了一种名为RAAN的模型，用于无监督领域适应。该模型在域差距较大时表现出优越性能，通过重加权策略考虑源样本的重要性，并使用基于EM距离的OT方法匹配源和目标样本的特征分布。RAAN包含三个网络，采用端到端训练，首先训练源分类器，然后训练目标分类器和鉴别器，实现对抗性学习和权重修正，以适应分类器。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

摘要主要强调以下几点：

1. 当domain discrepancy比较大的时候，文章中方法的性能比其余方法要好的多（实验部分的确如此）

2. re-weighted：在训练discriminator D的时候，每一个source sample并不是同等重要，weight取决于label

3. 在匹配source sample和target sample的特征分布的时候，用的是基于EM 距离的OT方法

4. 将2和3嵌入到同一个框架中，实现end-to-end training

方法：RAAN模型

主要包含三个网络：Ts, Tt, 和D， 先训练Ts和CLS， 再训练Tt和D来匹配Ts

（1）基于OT的adversarial learning

先给出两个特征的概率密度函数：

再转换成用联合分布解决匹配问题

定义OT问题的代价

最低0.47元/天 解锁文章

200万优质内容无限畅学
最优传输论文（二十九）：Re-weighted Adversarial Adaptation Network for Unsupervised Domain Adaptation论文原理
lyy的博客
09-03 612
文章目录前言摘要1. Introduction2. Related Work2.1. Matching Feature Distribution using Adversarial Training（使用对抗性训练匹配特征分布）2.2. Matching Feature Distribution using OT 前言 文章来自2018年的CVPR 本文是本人领域自适应与最优传输系列论文的第29篇，所有系列论文的相关代码在https://github.com/CtrlZ1/Domain-Adaptati
最优传输论文（三十七）：GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation论文原理
lyy的博客
09-26 802
文章目录前言摘要1. Introduction2. Related Work3. Our Approach3.1. Notations and Definitions3.2. Graph Convolutional Adversarial Network3.2.1 域对齐3.2.2 Structure-aware Alignment3.2.3 Class Centroid Alignment3.3. Discussion4. Experiments4.1. Datasets总结 前言 文章来自2019年
Importance-weighted conditional adversarial network for unsupervised domain adaptation笔记
BEA_D的博客
03-21 731
Importance-weighted conditional adversarial network for unsupervised domain adaptation 这篇文章属于深度领域适配，深度领域适配主要包括两种方法： 1.基于差异思想：特征提取器，分类器，MMD/CORAL… 2.基于对抗思想：特征提取器，分类器，域判别器 ...
Re-Weighted Discriminatively Embedded K-Means for Multi-View Clustering
Robert_Gordon的博客
08-01 568
RDEKM这篇论文的创新点： 提出一个多视图最小绝对残差模型。 原来的多视K均值聚类的方法是采用非负矩阵分解，如公式所示： 其聚类性能数据异常值的很大影响。 基于此本论文提出一个多视最小绝对残差的模型，其中WkW_kWk​表示的是一个投影矩阵，对高维数据进行降维，避免维度诅咒。 在模型中残差∥.∥F\left \| . \right \|_F∥.∥F​没有进行平方，所以可以减少离群值的影响，并具有很好的鲁棒性。 目标函数为： 其中 ...
Duplex Generative Adversarial Network for Unsupervised Domain Adaptation
weixin_30872157的博客
06-02 604
Duplex Generative Adversarial Network for Unsupervised Domain Adaptation 　　域自适应尝试将从源域获得的知识传送到目标域，即测试数据所在的域。主要的挑战在于源域和目标域之间的分布差异。大多数现有工作通常通过最小化分布距离来努力学习域不变表示，例如MMD和最近提出的生成对抗网络（GAN）中的鉴别器。 遵循GAN的类...
【张量｜RTCTV】enhanced low-rank tensor recovery fusing reweight【融合重加权张量相关总变分正则化的增强低秩张量恢复方法用于图像去噪】】
最新发布
2665000101@qq.com
06-27 1701
重加权是什么重加权技术是一种在优化问题中增强模型性能的方法，特别是在处理稀疏性和低秩性问题时应用广泛。以下是重加权技术的详细解释：重加权技术通过迭代地调整权重，逐步逼近目标函数的理想解。它通过对目标函数中某些部分赋予不同的权重，来更准确地描述数据的特性。例如，在低秩矩阵恢复或稀疏信号重建中，重加权技术可以更有效地突出重要特征，同时抑制噪声和不重要的特征。在低秩矩阵恢复中，常用的核范数 ∥X∥∗\|X\|_*∥X∥∗​ 计算矩阵 XXX 的奇异值之和。然而，直接使用核范数会对所有奇异值等同对待，无法区分重要
CVPR2019:Domain-Specific Batch Normalization for Unsupervised Domain Adaptation无监督域适配的特定域批处理规范化
ssshyeong的博客
09-13 3035
我们在深度神经网络中提出了一种新的基于领域特定批归一化的无监督领域自适应框架。我们的目标是通过在卷积-卷积神经网络中专门化批归一化层，同时允许它们共享所有其他模型参数，从而适应这两种领域，这是通过两阶段算法实现的。在第一阶段，我们使用外部无监督域自适应算法(例如ample, MSTN[27]或CPUA[14])来估计目标域中示例的伪标签，该算法集成了提出的特定于域的批处理归一化。第二阶段使用源和目标域的多任务分类损失学习最终模型。注意，两个域在两个阶段都有单独的批处理规范化层。
Importance Weighted Adversarial Nets for Partial Domain Adaptation学习笔记
且慢
11-11 1195
Importance Weighted Adversarial Nets for Partial Domain Adaptation学习笔记 文章目录Importance Weighted Adversarial Nets for Partial Domain Adaptation学习笔记Abstractintroducerelated workProposed MethodframeworkAdversarial Nets-based Domain AdaptationImportance Weighte
论文笔记：Contrastive Adaptation Network for Unsupervised Domain Adaptation
WinerChopin的博客
03-14 2947
1. 任务设置 Unsupervised Domain Adaptation for ImageClassification\rm Unsupervised~Domain~Adaptation~for~Image ClassificationUnsupervised Domain Adaptation for Imag...
ADDA-Adversarial Discriminative Domain Adaptation阅读记录
Fiona_smith的博客
05-13 1414
对抗性学习方法是一种很有前途的训练鲁棒深度网络的方法，可以在不同的领域生成复杂的样本。尽管存在域移位或数据集偏差，它们也可以提高识别:最近引入了几种对抗无监督域适应的方法，这些方法减少了训练域和测试域分布之间的差异，从而提高了泛化性能。以前的生成式方法在产生引人入胜的可视化效果方面表现出色，但在区分性任务上并不理想，并且可能受限于较小的偏移范围。先验判别方法可以处理更大的域位移，但在模型上施加了绑定权重，并且没有利用基于gan的损失。
【基础论文笔记二】Transfer Learning with Dynamic AdversarialAdaptation Network(2019 ICDM)动态对抗适应网络的迁移学习论文笔记
m0_60231311的博客
03-25 1837
当ω→ 0，这意味着全局分布对齐更重要，DAAN将退化为DANN。当ω→ 1，这意味着两个域之间的全局分布相对较小，因此每个类的局部子域分布占主导地位，DAAN将退化为MADA。对ω，只需要运行整个网络一次，并且DAAN不需要训练额外的线性分类器。
GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation
m0_51496961的博客
04-11 3623
【论文笔记】用于无监督领域自适应的图卷积对抗网络GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation
GCAN: Graph Convolutional Adversarial Network for Unsupervised Domain Adaptation CVPR 2019论文笔记
qq_40491207的博客
03-26 2515
文章目录摘要1. 简介 摘要 为了在源域和目标域之间构建交互桥梁实现域自适应（domain adaptation），现阶段有三种重要的信息类型:数据结构、域标签和类标签。现有的领域适应方法大多只利用了上述信息的一种或两种类型，不能使它们相互补充和增强。与现有的方法不同，我们提出了一种端到端的图卷积对抗网络(GCAN)，通过在统一的深度模型中对数据结构、域标签和类标签进行联合建模，实现无监督域自适应...
Progressive Adversarial Networks for Fine-Grained Domain Adaptation
weixin_42224235的博客
08-27 1028
文章来自CVPR 2020
【论文笔记 CVPR-2019】《Domain-Symmetric Networks for Adversarial Domain Adaptation》
puchapu的博客
05-19 3566
摘要： 无监督域自适应旨在通过源域上有标记训练数据，学习到可以适用于目标域上无标记样例的分类器。最近，通过深度域对抗方法来学习域不变特性取得了令人印象深刻的进展。尽管近年来的研究取得了一定的进展，但域自适应在较细类别水平上实现特征分布的不变性方面仍然存在一定的局限性。为此，本文提出了一种新的域自适应方法域对称网络(SymNets)。提出的SymNet是基于源和目标任务分类器的对称设计，在此基础上，...
(CVPR 2019)Domain-Symmetric Networks for Adversarial Domain Adaptation笔记
VioletSaber的博客
09-20 666
Domain-Symmetric Networks for Adversarial Domain Adaptation 文章链接 网络结构 源域和目标域数据同个特征提取器G提取出特征向量，之后通过分类器（全连接层）得到vvv，这里的vvv是指经过全连接层但还没有经过softmaxsoftmaxsoftmax处理的结果。 使用两个分类器分别得到vs(x)v^s(x)vs(x)和vt(x)v^t(x)vt(x)，二者拼接得到vst(x)v^{st}(x)vst(x)。vs(x)，vt(x)和vst(x)v^s
Domain-Symmetric Networks for Adversarial Domain Adaptation论文翻译
qq_41206605的博客
03-10 961
Domain-Symmetric Networks for Adversarial Domain Adaptation Abstract（摘要） 无监督域自适应旨在为目标域上的未标记样本提供分类器模型，并提供源域上标记样本的训练数据。最近，通过深度网络的领域对抗训练学习不变特征，取得了令人印象深刻的进步。尽管最近取得了进展，但是领域自适应在实现更好的类别级别的特征分布不变性方面仍然受到限制。为...
READING NOTE: Adversarial Discriminative Domain Adaptation
joshua_1988
02-22 773
TITLE: Adversarial Discriminative Domain Adaptation
代价敏感学习初探 - 有偏损失函数设计
bbbeoy的专栏
06-16 3536
搬砖 https://www.cnblogs.com/LittleHann/p/10587512.html
实现高效随机选择的JavaScript库：pick-random-weighted
- **pick-random-weighted-master**：这个文件名称表明了该压缩包是“pick-random-weighted”库的源代码版本库，通常是在版本控制系统（如Git）中的一个分支名称。"master"通常是指主分支，代表了当前的稳定版本或者...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值