40、卷积神经网络中的池化层与经典架构解析

卷积神经网络中的池化层与经典架构解析

1. 池化层概述

池化层在卷积神经网络中是重要的组成部分，常见的有最大池化、平均池化、深度方向最大池化和全局平均池化。

1.1 最大池化

最大池化虽然能实现对小平移的不变性，但也存在明显缺点。例如，使用一个 2×2 内核和步长为 2 时，输出在两个方向上都会缩小为原来的一半，面积缩小为原来的四分之一，直接丢弃了 75% 的输入值。而且在某些应用中，如语义分割，需要的是输出随输入的小变化而相应小变化的等变性，而非不变性。

在 TensorFlow 中实现最大池化层很简单，示例代码如下：

import tensorflow as tf
from tensorflow import keras

max_pool = keras.layers.MaxPool2D(pool_size=2)

1.2 平均池化

平均池化层与最大池化层工作方式类似，只是计算的是均值而非最大值。以前平均池化层很流行，但现在大多使用最大池化层，因为它通常表现更好。虽然计算均值通常比计算最大值丢失的信息少，但最大池化能保留最强特征，去除无意义特征，为后续层提供更清晰的信号，且具有更强的平移不变性。

在 TensorFlow 中创建平均池化层，只需将 MaxPool2D 替换为 AvgPool2D 。

1.3 深度方向最大池化

深度方向最大池化不是沿着空间维度进行，虽然不太常见，但能让卷积神经