揭秘卷积神经网络热力图：类激活映射

全文共2280字，预计学习时长4分钟

目前在可视化方面，我们已经掌握了许多不同的技术。本文将介绍在卷积神经网络(CNN)中，针对图像的某些部位可视化从而做出判断的不同技术。

类激活映射(CAM)是一种生成热力图的技术，用于突出图像的类的特定区域。

热力图效用

下面是一个典型的热力图：

图片来源：https://github.com/jacobgil/pytorch-grad-cam

这张图片中，一只猫被红色高亮显示为“猫”类，表示网络在进行分类判断时正在查看正确位置。

视觉化神经网络正在查看的位置大有用处，因为它帮助我们理解神经网络是否在查看图像的适当部位，或者神经网络是否在进行误导。下列是一些神经网络在做分类决判断时可能进行误导和错误查看位置的例子：

· 卷积神经网络将一张图片分类为“火车”，而实际上它是在寻找“火车轨道”(这意味着它会错误地将一张火车轨道图片单独分类为“火车”)。

· 卷积神经网络将x光胸片分类为“高患病几率”，依据的不是疾病的实际表现，而是放在病人左肩上的金属“L”标记。重点是，这个“L”标记只有在病人躺下的时候才会被直接放在病人的身体上，而病人也只有虚弱到无法忍受才会躺下接受x光检查。

参考：Zech et al. 2018,Confounding variables can degradegeneralization performance of radiological deep learning models