11、病理图像对比自监督学习与多实例学习网络训练实例采样研究

病理图像对比自监督学习与多实例学习网络训练实例采样研究

病理图像对比自监督学习

对比学习回顾

对比学习是一类利用无标签数据进行自监督训练以获得良好特征表示的预训练方法，在计算机视觉领域已得到广泛研究。不过，大多数方法是在自然图像上进行研究和实验的，在组织病理图像上的应用有限。

在对比学习方法中，训练样本首先要经过一系列图像变换形成不同视图，同一图像的不同视图被视为一个实例。训练时，通过特定损失函数（如InfoNCE）缩短同一实例在特征空间的距离，拉开不同实例在特征空间的距离。给定一个锚随机变量 $x_{1,i} \sim p(x_1)$，流行的对比学习框架旨在将正样本 $x_{2,i} \sim p(x_2|x_{1,i})$ 与负样本 $x_{2,j} \sim p(x_2)$ 区分开来，通常通过最小化InfoNCE损失来实现：
[
L_{NCE} = -E\left[\log\frac{f(x_{2,i}, x_{1,i})}{\sum_{j = 1}^{N} f(x_{2,j}, x_{1,i})}\right]
]
其中 $f(x_{2,j}, x_{1,i})$ 是一个正评分函数，通常选择为对数双线性模型。最小化 $L_{NCE}$ 等价于最大化互信息 $I(x_2; x_1)$ 的下界，需要许多负样本才能正确近似负分布 $p(x_2)$ 并收紧下界。

在这个过程中，最关键的问题是如何构建同一训练样本的不同实例。由于组织病理图像和自然图像有许多不同特性，如染色不变性，通过设计合理的组织病理图像变换，可将对比学习方法很好地应用于组织病理图像相关任务。目标是调整对比学习框架的样本增强部分，使其充分利用组织病理图