14、卷积神经网络架构全解析

卷积神经网络架构全解析

1. 卷积神经网络架构概述

卷积神经网络（CNN）架构各有优劣，优点包括训练时间短、预测速度快且准确，缺点则是严重依赖强大的硬件。接下来我们将深入探讨几种重要的CNN架构、它们的起源以及可能的工业应用场景。

2. LeNet

LeNet，也称为LeNet - 5，由法国计算机科学家Y. LeCun于1998年首次提出。最初用于文档中的手写和机器印刷字符识别。由于其架构小而简单，LeNet所需的计算能力和存储权重的内存较少。

2.1 架构描述

LeNet总共有七层，包括卷积层、池化层和全连接层。
- 输入层 ：接收32×32像素的灰度图像作为输入，输入的灰度图像像素值被归一化到 - 0.1到1.175之间，以确保均值为0，标准差为1。
- 第一层卷积层 ：包含六个5×5大小的滤波器，步长为1×1，采用“same”填充，输出维度为28×28。
- 第二层平均池化层 ：步长为2×2，输出维度为14×14。
- 第三层卷积层 ：与第一层类似，但有16个滤波器，采用“valid”填充。
- 第四层平均池化层 ：步长为2×2，输出16个5×5的特征图。
- 第五层卷积层 ：有120个5×5大小的滤波器，输出大小为1×1。若输入图像大于32×32，该层输出尺寸将不是1×1，所以定义为卷积层而非全连接层。
- 第六