论文笔记 ——《Unsupervised Domain Adaptation by Backpropagation》

论文笔记 —— 《基于反向传播的无监督域适应》(《Unsupervised Domain Adaptation by Backpropagation》)

思想

本文侧重于将领域适应和深度特征学习结合在一个训练过程中(深度领域适应)。我们的目标是将领域自适应嵌入到学习表示的过程中,使最终的分类决策基于对领域变化既具有区别性又不变性的特征,即在源域和目标域中具有相同或非常相似的分布。
这样,得到的前馈网络可以应用于目标域,而不受两个域之间位移的影响。

核心

  1. 本文提出了深度架构中进行域适应的新方法,该方法促进了“深度”特征出现:
  • 区分源域学习任务【辨别力】【对应分类误差】
  • 域不变性【对应域分类误差】
  1. 同时学习三个classifier。通过最小化分类器误差,最大化判别器误差,使得学习到的特征表达具有跨领域不变性。

原理

  • 特征提取器:一方面最小化分类误差,使获得又判别力的特征;另一方面最大化域分类误差,使特征具有不变性(本文使用了2-3个卷积层来实现)
  • 域分类器:最大化域分类误差(本文用了三个全连接层)
  • 标签分类器:最小化分类误差
### 半监督学习的研究论文 半监督学习是一种利用少量标注数据和大量未标注数据来提高模型性能的学习方法。这种方法在实际应用中非常有用,尤其是在获取标注数据成本较高的情况下。 #### 关于对比学习的应用 对比学习可以应用于有监督和无监督设置,在处理无监督数据时尤为有效[^1]。这种技术已经成为自监督学习中最强大的方法之一。 #### 图卷积网络的半监督分类 一篇重要的研究论文《Semi-supervised Classification with Graph Convolutional Networks》(2017年发布),探讨了图卷积网络如何用于节点级别的半监督分类任务[^2]。该论文提出了基于谱图理论的方法,并展示了其在多个标准数据集上的优越表现。 以下是几篇值得查阅的相关学术论文: 1. **Pseudo-label: The simple and efficient semi-supervised learning method for deep neural networks** 这篇文章介绍了一种简单高效的伪标签方法,适用于深度神经网络中的半监督学习场景。通过为未标记的数据分配伪标签并将其纳入训练过程,显著提高了模型的表现。 2. **Mean teachers are better role models: Weight-averaged consistency targets improve semi-supervised deep learning results** 此论文提出了一种名为“均值教师”的框架,它通过对权重进行平均化操作以生成一致性目标,从而改进了半监督深度学习的结果。 3. **Unsupervised Domain Adaptation by Backpropagation** 虽然主要关注域适应问题,但此文章也涉及到了半监督学习的思想,特别是跨不同领域之间的特征对齐策略。 4. **Temporal Ensembling for Semi-Supervised Learning** 提出了时间集成法作为解决半监督图像分类的一种新途径。通过维护每个样本预测分布的历史记录,增强了模型鲁棒性和准确性。 ```python import requests def fetch_paper(paper_url): response = requests.get(paper_url) if response.status_code == 200: return "Paper fetched successfully." else: return f"Failed to fetch paper. Status code {response.status_code}." paper_urls = [ "https://arxiv.org/pdf/1609.02907.pdf", # GCN Paper "https://arxiv.org/pdf/1308.5857v2.pdf", # Pseudo Label Paper "https://arxiv.org/pdf/1703.01780.pdf", # Mean Teacher Paper ] for url in paper_urls: print(fetch_paper(url)) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值