【附上个人git完整代码地址:https://github.com/Liuyubao/Tensorflow-CNN】
【如有疑问,更进一步交流请留言或联系微信:523331232】
Reference
本文主要参考以下链接:
- Google《Tensorflow实战》
- http://neuralnetworksanddeeplearning.com/chap6.html
- http://cs231n.github.io/convolutional-networks/
- https://blog.youkuaiyun.com/marsjhao/article/details/72900646
- https://blog.youkuaiyun.com/cxmscb/article/details/71023576
分为以下几个部分进行讲解
- 从神经网络到卷积神经网络
- 深入卷积神经网络
- 经典卷积神经网络
- 总结
一、从神经网络到卷积神经网络
上面是最基本最普通的神经网络,卷积神经网络跟它是什么关系呢?
其实卷积神经网络依旧是层级网络,只是层的功能和形式做了变化,可以说是传统神经网络的一个改进。比如下图中就多了许多传统神经网络没有的层次。
从以下5层来对神经网络进行介绍:
- 数据输入层/ Input layer
- 卷积计算层/ CONV layer
- ReLU激励层 / ReLU layer
- 池化层 / Pooling layer
- 全连接层 / FC layer
二、深入卷积神经网络
【2.1 数据输入层】
对原始图像数据进行预处理
• 去均值:把输入数据各个维度都中心化为0,如下图所示,其目的就是把样本的中心拉回到坐标系原点上。
• 归一化:幅度归一化到同样的范围,如下所示,即减少各维度数据取值范围的差异而带来的干扰,比如,我们有两个维度的特征A和B,A范围是0到10,而B范围是0到10000,如果直接使用这两个特征是有问题的,好的做法就是归一化,即A和B的数据都变为0到1的范围。
• PCA/白化:用PCA降维;白化是对数据各个特征轴上的幅度归一化
在CNN的输入层中,(图片)数据输入的格式 与 全连接神经网络的输入格式(一维向量)不太一样。
CNN的输入层的输入格式保留了图片本身的结构(多维向量)。
- 黑白: 28×28
- RGB: 3×28×28
【2.2 卷积计算层】
在卷积层中有2个重要的概念:
local receptive fields(感受视野)
shared weights(共享权值)
设移动的步长为1:从左到右扫描,每次移动 1 格,扫描完之后,再
向下移动一格,再次从左到右扫描。
【2.3 激励层】
激励层主要对卷积层的输出进行一个非线性映射,因为卷积层的计算还是一种线性计算。
使用的激励函数一般为ReLu函数:
f(x)=max(x,0)
卷积层和激励层通常合并在一起称为“卷积层”。
【2.4 池化层】
池化层夹在连续的卷积层中间, 用于压缩数据和参数的量,减小过拟合。
简而言之,如果输入是图像的话,那么池化层的最主要作用就是压缩图像。
池化层用的方法有Max pooling 和 average pooling,而实际用的较多的是Max pooling。
这里就说一下Max pooling,其实思想非常简单。
【2.5 全连接层】
两层之间所有神经元都有权重连接,通常全连接层在卷积神经网络尾部。
也就是跟传统的神经网络神经元的连接方式是一样的:
【2.6 卷积神经网络的优缺点】
优点
• 共享卷积核,对高维数据处理无压力
• 无需手动选取特征,训练好权重,即得特征分类效果好
缺点
• 需要调参,需要大样本量,训练最好要GPU
• 物理含义不明确(也就说,我们并不知道没个卷积层到底提取到的是什么特征,而且神经网络本身就是一种难以解释的“黑箱模型”)
三、经典卷积神经网络
- LeNet,这是最早用于数字识别的CNN
- AlexNet, 2012 ILSVRC比赛远超第2名的CNN,比LeNet更深,用多层小卷积层叠加替换单大卷积层。
- ZF Net, 2013 ILSVRC比赛冠军
- GoogLeNet, 2014 ILSVRC比赛冠军
- VGGNet, 2014 ILSVRC比赛中的模型,图像识别略差于GoogLeNet,但是在很多图像转化学习问题(比如object detection)上
效果奇好
【3.1 LeNet】
第一个卷积神经网络,1994年由Yann LeCun基于1988年以来的工作提出,并命名为LeNet5。
贡献
- 在神经网络中引入卷积层
- 引入下采样
- 卷积+池化(下采样)+非线性激活的组合是CNN的典型特征
- 使用MPL作为分类器
【3.2 Dan Ciresan Net】
2010年,Dan Claudiu Ciresan和Jurgen Schmidhuber实现了第一个GPU神经网络。
【3.3 AlexNet】
AlexNet是2012年ImageNet比赛的冠军,第一个基于CNN的ImageNet冠军,网络比LeNet5更深(8层)。
贡献
- 使用ReLU作为非线性激活函数
- 数据扩增
- 使用最大池化
- 使用dropout避免过拟合
- 使用GPU减少训练时间
从AlexNet之后,深度学习就变成了一种叫做”解决任务的更大规模的神经网络”的技术。
【3.4 VGGNet】
VGG是2014年的ImageNet分类的亚军,物体检测冠军,使用了更小的卷积核(3x3),并且连续多层组合使用。
贡献
- 更深
- 连续多个3x3的卷积层
VGG论文的一个主要结论就是深度的增加有益于精度的提升,这个结论堪称经典。
【3.5 GoogleNet】
GoogLeNet是2014年的ImageNet图像分类的冠军,比VGG19多3层,而其参数却只有AlexNet的1/12,同时获得了当时state-of-the-art的结果。
Inception模块使用1x1的卷积(bottleneck layer)减少了特征数量,同时,分类器部分只保留了必要的一个全连接层,极大的降低了运算数量。Inception模块是GoogLeNet以更深的网络和更高的计算效率取得更好的结果的主要原因。 此后,Inception模块不断改进,产生了Inception-2和Inception-3。