GoogLenet、Resnet、Mobilenet总结及pytorch代码实现

本文简单总结了以下三种比赛常用backbone(pytorch实现代码)：

• GoogLeNet
• Resnet
• mobilenet

GoogLenet（Inception系列）

motivation: 保持网络结构的稀疏性的同时，又能利用密集矩阵的高计算性能。
特点：

• 引入inception module
  这里1x1卷积的作用：降维；减小参数；增加非线性。
  
• 用小卷积核替代大卷积核，后面5x5卷积核也被两个3x3卷积核替代。一方面，在保证感受野不变的情况下，减小了计算参数；另一方面，加入了更多层的非线性，使得判决函数更加具有判决性，并且起到隐式正则化的作用。

inception v2 代码实现。

Resnet

motivation: Go deeper!
特点:

• 引入residual module