AlexNet网络在pytorch下的实现

1.AlexNet详解

---

 Alex在2012年提出的alexnet网络结构模型引爆了神经网络的应用热潮，并赢得了2012届图像识别大赛的冠军，使得CNN成为在图像分类上的核心算法模型。

AlexNet 该模型一共分为八层，5个卷积层,以及3个全连接层,在每一个卷积层中包含了激励函数RELU以及局部响应归一化（LRN）处理，然后在经过降采样（pool处理）。

Alexnet网络的创新点：

1.有更深的网络机构，总用有8层，相对于以前的都很多。

2.使用的层叠的卷积层，既卷基层后借卷基层再加上池化层和全连接层来提取图像特征

3.使用了dropout抑制过拟合， 大致意思就是忽略全连接层中的一些神经元，一般是80%。 既当有1000个神经元的时候，只有800个神经元参与运算。其他神经元的参数置0.

4. 使用数据增强的方法抑制过拟合，训练网络拟合的其中一个原因有：训练数据的样本太少，导致，不能消除噪声干扰。所以作者想了一个办法数据增强的办法。通过使用平移、翻转、加入噪声、剪切的基本图像处理方法。把一张图片当多张图片使用。就相当于增加了样本数量。

5.使用relu函数替换之前使用的sigmoid作为激活函数，relu函数的数学公式如下

6.使用多gpu训练，从上面给出的alex网络模型中我们可以看到，Alex拥有两个分支，可以同时在两个gpu上面运行程序

2.AlexNet网络结构

 3.AlexNet网络数据导入