SparkSnail

传统卷积神经网络最后使用全连接层，NiN只对通道层做全连接并且像素之间共享权重。 网络结构图如下： NiN有两个特点： 1.使用mlpconv网络层替代传统的convolution层。 mlpconv层可以看成是每个卷积的局部感受野中还包含了一个微型的多层网络。 mlp层实际上是卷积加传统的mlp（多层感知器），因为convolution是线性的，而mlp是非线性的，后者能够得到更

设输入图像尺寸为W，卷积核尺寸为F，步幅为S，Padding使用P,经过该卷积层后输出的图像尺寸为（W−F+2P）S+1\frac{（W-F+2P）}{S}+1。

VGG网络是2014年ILSVRC竞赛的第二名。 VGG特点是使用很多有着相对小的kernel（3×3）的卷积层然后接上一个池化层，之后再将这个模块重复多次。 VGG结构图： 论文里给出了6中结构，其中所有的卷积层都是同样大小的filter，尺寸3x3，卷积步长stirde = 1，填充padding = 1. 使用相同的3x3卷积核原因如下： A、3x3是可以表示「左右」、「上下」、「中

2012年，AlexNet赢得ImageNet比赛冠军。 AlexNet是8层神经网络，包含5个卷积层和3个全连接层。 结构如下： 每一层大小： input：227*227*3 C1：96*11*11*3 C2：256*5*5*48 C3：384*3*3*256 C4：384*3*3*192 C5：256*3*3*192 F6:4096 F7:4096 F8:1000使