本文提出了一种新的自监督学习方法，利用图像增强代替传统的负样本，通过双塔网络结构（onlinenetwork和targetnetwork）进行训练，简化了损失函数并降低了复杂性。展示了无负样本对比学习的实现细节和代码示例。
Grill J B, Strub F, Altché F, et al. Bootstrap your own latent-a new approach to self-supervised learning[J]. Advances in neural information processing systems, 2020, 33: 21271-21284.
1. 前言
之前的对比学习总是依赖大量的负样本来训练模型，然而本文的研究发现，图像增强的选择相较于对比大量的负样本更具有鲁棒性。因此，作者认为基于对比学习的方法可以不利用负样本就能够获得较好的表征，这样也可以减少大量的复杂性。
2. 方法
作者这里还是使用了一个双塔模型，一个称为online network，一个称为target network。online network会利用梯度反向传播来更新参数，而target network则使用exponential moving average（EMA）来更新参数。具体如下所示：
其实思路很简单，就是将online network和target network加权求和。
由于只需要对同一个图像的不同增强视角来对比，因此没有了负样本，损失函数也变得更为简单了：
算法流程图如下所示：
最低0.47元/天 解锁文章
扫一扫
493
到【灌水乐园】发言
