残差网络resnet

残差resnet网络
1,resnet概述
是一种残差结构
2,解决问题?
在模型训练中解决网络退化问题,防止过拟合,梯度消失问题.
3,网络结构

网络结构有2种结构
第一种是基础残差,两层结构,其中第一层的1× 1的卷积核的作用是对特征矩阵进行降维操作，将特征矩阵的深度由256降为64;
第三层的1× 1的卷积核是对特征矩阵进行升维操作，将特征矩阵的深度由64升成256。
降低特征矩阵的深度主要是为了减少参数的个数。
第二种是倒残差结构结构, 先降后升为了主分支上输出的特征矩阵和捷径分支上输出的特征矩阵形状相同，以便进行加法操作。