二、卷积神经网络
2.1 卷积神经网络的基本结构
所谓卷积神经网络,其基本网络结构包括:卷积层 ,Pooling层,全连接层。输入数据经过卷积后,得到特征map,特征map很大,直接进行全连接,消耗很大,经过pooling层后,起到特征选择的作用,降低维度,再进行全连接,最后经过非线性化(激励函数)和softmax得到输出。
下面这张图清晰地展示了整个卷积神经网络的基本结构:卷积+Pooling+全连接,更复杂的模型只需在其中添加卷积层等神经网络层。
上述描述可以说是前向传播,那么如何反向传播呢,利用损失函数,从神经网络的输出端至输入端,计算每层的损失函数,利用梯度下降等优化算法进行优化。详细的前向传播和后向传播算法后续更新。
2.2 经典卷积神经网络
2.2.1 LeNet - 5
直接上模型结构,如下图所示:
网络结构
卷积层,6个55