【ResNet网络模型】

文章

Deep Residual Learning for Image Recognition

CNN经典网络模型

残差神经网络（ResNet）主要贡献是发现了“退化现象(degradation)”，并针对退化现象发明了“直连边/短连接(shortcut connection)”，极大消除了深度过大的神经网络训练困难问题。

网络结构

ResNet的前两层为输出通道数为64、步幅为2的7×7卷积层，后接步幅为2的3×3的最大池化层。 不同于GoogLeNet，ResNet在每个卷积层后增加了批量规一化层。
接着， ResNet使用4个由残差块组成的模块，每个模块使用若干个同样输出通道数的残差块。 第一个模块的通道数同输入通道数一致。 由于之前已经使用了步幅为2的最大池化层，所以无须减小高和宽。 之后的每个模块在第一个残差块里将上一个模块的通道数翻倍，并将高和宽减半。
ResNet的一个重要设计原则是：当feature map大小降低一半时，feature map的数量增加一倍，这保持了网络层的复杂度。最后，输入全局平均汇聚层，以及全连接层输出。通过配置不同的通道数和模块里的残差块数可以得到不同的ResNet模型，例如更深的含152层的ResNet-152。
34层ResNet如下图所示：