PyToch 深度学习 || 3. 卷积神经网络 | Ch3.5 卷积神经网络 ResNet

卷积神经网络 ResNet

ResNet是2015年ImageNet竞赛的冠军，由微软研究院提出，通过残差模块能够成功训练出高达152层 的深的神经网络。

ResNet最初设计灵感来源于这样一个问题：在不断加深深度神经网络的时候，会出现一个Degradation，即准确率会先上升然后达到饱和，再继续增加深度则会导致模型准确率下降。这并不是过拟合的问题，因为不仅在测试集合上误差增加，在训练集上误差也增加。假设一个比较浅的网络达到了饱和的准确率，那么在后面加上几个恒等映射层，误差不会增加，也就是说更深的模型起码不会使得模型效果下降。

from torch import nn
from torchstat import stat

def conv3x3(in_planes, out_p