卷积神经网络（CNN）

卷积神经网络（CNN）

1.什么是CNN

CNN是深度学习的代表算法之一，它是一类包含卷积计算具有深度的前馈神经网络，结构跟普通的神经网络相似，都是由可学习的权重和偏置的神经元组成。在计算机视觉等邻域中网络的输入往往是很大的，需要读取整幅图像作为神经网络模型的输入（即全连接的方式），当图像的尺寸越大时，其连接的参数将变得很多，从而导致计算量非常大。如下图：

在传统的神经网络的计算下，1000×1000×3的图像的输入，光第一层的权重就需要（1000，3m）个。这样的计算代价是巨大的。CNN解决的这个问题，卷积运算使得无论输入的维度是多少，网络的参数都是固定的，而且参数量远少于传统的算法。

而我们人类对外界的认知一般是从局部到全局，先对局部有感知的认识，再逐步对全体有认知，这是人类的认识模式。在图像中的空间联系也是类似，局部范围内的像素之间联系较为紧密，而距离较远的像素则相关性较弱。因而，每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知，然后在更高层将局部的信息综合起来就得到了全局的信息。这种模式就是卷积神经网络中降低参数数目的重要神器：局部感受野

2.CNN组成架构

• 卷积层

  卷积神经网路中每层卷积层由若干卷积单元组成，每个卷积单元的参数都是通过反向传播算法优化得到的。卷积运算的目的是提取输入的不同特征，第一层卷积层可能只能提取一些低级的特征如边缘、线条和角等层级，更多层的网络能从低级特征中迭代提取更复杂的特征

• 激活

  这一层神经的激活函数（Activation function）使用线性整流（Rectified Linear Units, ReLU）。

• 池化层

  通常在卷积层之后会得到维度很大的特征，将特征切成几个区域，取其最大值或平均值，得到新的、维度较小的特征

• 全连接层

  把所有局部特征结合变成全局特征，用来计算最后每一类的得分

3.工作原理