Spatial-Channel Sequeeze & Excitation (SCSE) 学习笔记

本文链接：https://blog.youkuaiyun.com/qq_41174201/article/details/88577287

本文介绍了Spatial-Channel Squeeze & Excitation (SCSE) 模块，它是对图像分割网络的一种增强策略。通过对特征图在空间和通道上的压缩与激发，SCSE能生成表示空间和通道重要性的张量，从而强化关键信息，弱化不重要部分。文章详细阐述了cSE、sSE和scSE三种模块的工作原理，并探讨了它们在不同场景中的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Motivation

Spatial Squeeze and Channel Excitation Block

Channel Squeeze and Spatial Excitation Block

Spatial and Channel Squeeze & Excitation Block

在目前的图像分割领域中，作者提出了一种别致的思路来增强网络分割效果，它通过对feature map进行在空间，亦或是通道上进行压缩和激发，生成一个能用数学表示feature map在空间方向或者通道方向重要性的Tensor，从而方便研究者增强重要的通道 / 空间点，削弱忽视不重要的通道 / 空间点。

Motivation

作者主要受到squeeze & excitation (SE) block方法的启发，该方法对于一个输入feature map，使用一个全局平均池对其空间依赖性进行分解，来对每一个通道进行逐个学习，生成一个能够表示各个通道重要性的Tensor，这个block有很好的适应性，可以穿插在任何卷积神经网络的模型之中，具有很好的泛用性，并在ILSVRC 2017 classification competition中取得优胜的成绩。作者受到这个方法的启发，提出了两种该方法的变体sSE和scSE，原始的SE方法被作者成为cSE，一共三种block，用于分别研究feature map的通道重要性(cSE)，空间重要性(sSE)与两者结合的重要性(scSE)。

作者构建的三个block可以按照实际需求，随时附加在encoder or decoder block后面，，比如下图，红色的SE Blocks就跟在了四个池化层与下采样层的后面。

Spatial Squeeze and Channel Excitation Block

cSE，是启发作者的原始的模型，该方法的具体算法为：

对于一副输入feature map，我们假设它的size是 $h\times w\times c$ ，我们用另一种形式来表示它，表示成 $U= \left [ u_{1},u_{2}\cdots u_{c} \right ]$ ，这里， $u_{k}\in \mathbb{R}^{h\times w\times 1}$ &#