69、医学图像分割模型的认证：随机平滑与扩散概率模型的结合

医学图像分割模型的认证：随机平滑与扩散概率模型的结合

1. 背景与问题提出

在医学图像分割中，准确且鲁棒的模型至关重要。然而，由于难以精确计算某些概率，传统方法存在局限性。例如，要精确计算函数 ( g ) 在 ( x ) 处的值往往是不可能的。为了解决这个问题，研究人员提出使用蒙特卡罗算法进行随机采样来估计 ( g(x) )。具体做法是从正态分布 ( N(0, \sigma^2I) ) 中生成 ( n ) 个样本 ( \eta )，并对每个样本计算 ( f(x + \eta) )，然后根据各类别的计数来估计概率 ( p_y ) 和半径 ( R )，置信度为 ( 1 - \alpha )（( \alpha ) 取值在 0 到 1 之间）。如果置信水平无法达到（如样本不足），则该方法将不提供估计。

2. 现有方法及挑战

2.1 随机平滑与准确性 - 鲁棒性权衡

为了获得平滑的分类器，需要在分类器输入中添加随机噪声，但这会导致准确性和鲁棒性之间的权衡。添加低方差噪声时，准确性受影响较小，但认证半径较低；而添加高方差噪声虽能提高认证效果，但会牺牲准确性。

2.2 解决权衡问题的方法

• Cohen 等人的方法 ：在训练阶段向网络注入噪声，虽然在认证过程中评估分类器时可能会降低准确性，但有助于缓解准确性和鲁棒性之间的权衡。训练时，网络的目标是学会忽略噪声并同时进行分类。
• Salman 等人的方法 ：通过分别训练两个网络来分离去噪和分类任务。首先训练一个网络 ( h : X \to X ) 对数据进行去噪，使得对于 ( \eta \