d-SNE:使用随机邻居嵌入进行领域自适应
1. 引言
随着大数据时代的到来,深度学习技术在计算机视觉领域取得了显著进展。特别是大规模数据集如ImageNet的出现,使得预训练模型在较小的数据集上微调时也能取得优异效果。然而,当面对标记数据极其有限的新领域时,如何将预训练模型迁移到新领域成为一个挑战。领域自适应技术通过类别关系将知识从一个领域转移到另一个领域,成为解决这一问题的关键。
在众多领域自适应技术中,d-SNE(Domain Adaptive Stochastic Neighbor Embedding)脱颖而出。d-SNE通过随机邻居嵌入(SNE)创建一个潜在空间,利用修改后的Hausdorff距离度量对源域和目标域的类别进行对齐。这种方法不仅在多个基准数据集上表现出色,还在领域泛化方面展现了强大的能力。
2. 提出的方法
2.1 方法概述
d-SNE的核心思想是通过随机邻居嵌入(SNE)将源域和目标域的样本投影到一个共同的潜在空间中,然后基于修改后的Hausdorff距离度量对齐这两个领域的类别。具体来说,源样本和目标样本之间的距离定义为:
[ d(x_s^i, x_t^j) = |\Phi_D^s(x_s^i) - \Phi_D^t(x_t^j)|^2 ]
其中,$\Phi_D^s(\cdot)$ 和 $\Phi_D^t(\cdot)$ 分别是用于将源域和目标域样本转换到共同潜在空间的神经网络,由参数 $w_s$ 和 $w_t$ 参数化。
2.2 随机邻居嵌入
受SNE启发,我们定义目标样本 $x_t^j$ 选择源样本 $x_s^i$ 作