ResNet在2015年由微软实验室提出,斩获当年ImageNet竞赛中分类任务第一名,目标检测第一名。获得COCO数据集中目标检测第一名,图像分割第一名。
网络中的亮点:
1、超深的网络结构(突破1000层)
2、提出residual模块
3、使用Batch Normalization加速训练(丢弃dropout)
残差结构如下:
若同样,输入为256维的特征向量,右边的结构的参数比左边少。
不同层数的网络表格:
左边主分支与shortcut的输出特征矩阵shape是必须相同的,可以直接相加。右边,对于虚线处,需要reshape到统一大小。下面给出详细的ResNet50结构。
Batch Normalization
Batch Normalization的目的是使我们的一批( Batch)feature map满足均值为0,方差为1的分布规律。附上一个链接,解释得非常非常非常详细Batch Normalization。视评讲解链接如下