3、d-SNE:使用随机邻居嵌入进行领域自适应

d-SNE:使用随机邻居嵌入进行领域自适应

1. 引言

随着大数据时代的到来,深度学习技术在计算机视觉领域取得了显著进展。特别是大规模数据集如ImageNet的出现,使得预训练模型在较小的数据集上微调时也能取得优异效果。然而,当面对标记数据极其有限的新领域时,如何将预训练模型迁移到新领域成为一个挑战。领域自适应技术通过类别关系将知识从一个领域转移到另一个领域,成为解决这一问题的关键。

在众多领域自适应技术中,d-SNE(Domain Adaptive Stochastic Neighbor Embedding)脱颖而出。d-SNE通过随机邻居嵌入(SNE)创建一个潜在空间,利用修改后的Hausdorff距离度量对源域和目标域的类别进行对齐。这种方法不仅在多个基准数据集上表现出色,还在领域泛化方面展现了强大的能力。

2. 提出的方法

2.1 方法概述

d-SNE的核心思想是通过随机邻居嵌入(SNE)将源域和目标域的样本投影到一个共同的潜在空间中,然后基于修改后的Hausdorff距离度量对齐这两个领域的类别。具体来说,源样本和目标样本之间的距离定义为:

[ d(x_s^i, x_t^j) = |\Phi_D^s(x_s^i) - \Phi_D^t(x_t^j)|^2 ]

其中,$\Phi_D^s(\cdot)$ 和 $\Phi_D^t(\cdot)$ 分别是用于将源域和目标域样本转换到共同潜在空间的神经网络,由参数 $w_s$ 和 $w_t$ 参数化。

2.2 随机邻居嵌入

受SNE启发,我们定义目标样本 $x_t^j$ 选择源样本 $x_s^i$ 作

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值