常见现代卷积神经网络-AlexNet（Pytorch 09）

本章将介绍现代的 卷积神经网络架构，许多现代卷积神经网络的研究都是建立在这一章的基础上的。在本章中的每一个模型都曾一度占据主导地位，其中许多模型都是 ImageNet竞赛 的优胜者。ImageNet竞赛自2010年以来，一直是计算机视觉中监督学习进展的指向标。 

• AlexNet。它是第一个在大规模视觉竞赛中击败 传统计算机视觉模型 的大型神经网络；
• 使用重复块的网络（VGG）。它 利用许多重复的神经网络块；
• 网络中的网络（NiN）。它 重复使用由卷积层和1 × 1卷积层（用来代替全连接层）来构建深层网络;
• 含并行连结的网络（GoogLeNet）。它使用 并行连结的网络，通过不同窗口大小的卷积层和最大汇聚层 来并行抽取信息；
• 残差网络（ResNet）。它 通过残差块构建跨层的数据通道，是计算机视觉中最流行的体系架构；
• 稠密连接网络（DenseNet）。它的计算成本很高，但给我们带来了更好的效果。

虽然深度神经网络的概念非常简单——将神经网络堆叠在一起。但由于不同的网络架构和超参数选择，这些 神经网络的性能会发生很大变化。

一 深度卷积神经网络（AlexNet）

卷积神经网络的输 入是 由原始像素值或是经过简单预处理的像素值组成的。但在使用传统机器学习方法时， 从业者永远不会将原始像素作为输入。在 传统机器学习 方法中，计算机视觉流水线是 由经过人的手工精心设 计的