小白入门学习卷积神经网络

卷积神经网络产生的背景：
（1）卷积网络是为识别二维形状而特殊设计的一个多层感知器，这种网络结构对平移、比例缩放、倾斜或者共他形式的变形具有高度不变性。
卷积神经网络的特点：
（1）局部相关性：
相邻的像素结合起来表达一个特征，距离较远的像素影响较小
随着层数的增加，feature map里面的点映射到原图的感受野越来越大
不仅仅可以适用于图像，其它具有局部相关性的数据均可以尝试卷积网络处理带来一定的遮挡不变性
（2）参数共享
又称之为权值共享，更类似生物神经网络，减少了参数，降低了模型的复杂度，减弱了神经网络过拟合的可能性。这里的权值共享指的是每个映射面的权值参数共享，因而减少了网络自由参数的个数，降低了网络参数选择的复杂度。卷积神经网络中的每一个特征提取层（C-层）都紧跟着一个用来求局部平均与二次提取的计算层（S-层），这种特有的两次特征提取结构使网络在识别时对输入样本有较高的畸变容忍能力。
卷积神经网络区别于全连接神经网络最大的一个特点就是参数共享，不仅能够减少权值参数，减少了模型过拟合的风险，降低了模型的复杂度。而且这种模型具有空间相关性，即局部相关性，相对于之前全连接神经网络将图像视为一维向量处理，充分利用了图像的空间局部相关性利用卷积核去提取特征，然后再进行池化，增强模型的抗畸变和抗噪声性能。如下图所示，来说明卷积神经网络的参数共享，究竟意义有多么重大！

下图左：如果我们有1000x1000像素的图像，假设我们的隐层有1百万个神经元，那么他们全连接的话（每个隐层神经元都连接图像的每一个像素点），就有1000x1000x1000000=10的12次方个权值参数。然而图像的空间联系是局部的，就像人是通过一个局部的感受野去感受外界图像一样，每一个神经元都不需要对全