《神经网络入门系列文章（9）》

《神经网络入门系列文章（9）》

1. 神经网络的层数是如何数的？

   通常我们说的网络越深，模型效果越好，指的是可训练参数越多，模型的特征提取能力或表示能力更好。
   因此，神经网络的层数只与可训练参数的层数有关，层数等于卷积层+全连接层数量。BN层、池化层、Flatten层都不算在内。

2. 卷积操作的作用是什么？(为什么卷积层堆叠可以提取特征)

卷积核参数是具有特定含义的矩阵，输入图像与该矩阵进行逐元素相乘，可以产生该矩阵所对应输出。
卷积由于参数之间的特性，可以实现不同的图片经过这个卷积时，提取同样的特征，不同的图片输出不同的特征图，当很多卷积组合在一起时，可以提取图像的很多种特征，当卷积堆叠起来时，可以提取更大范围的特征和更深层次的特征。

3. 池化层的作用是什么？（为什么需要池化层）

池化层的操作是将一个窗口内的像素按照平均值加权或选择最大值来作为输出，一个窗口内仅有一个输出数据。因此，当经过池化层后，图像的尺寸会变小，计算量也会变小，相比于在池化前使用卷积，池化后同样的卷积大小具有更大的感受野。
但仅仅从缩小图像尺寸，减少计算量，获取更大感受野这个作用来说，也可以使用步长大于1的卷积来替代池化层。这在少部分模型中就有应用。此外，还有去除冗余信息、去除噪声的作用。
在神经网络的Backbone部分使用最大池化，用于去除噪声，去除干扰因素，在全连接层前，使用平均池化，避免丢失信息。
另外池化还有几个特性，具有平移不变性、旋转不变性、防止过拟合。

4. 归一化层的作用是什么？（为什么需要归一化层）

 当进行归一化后，特征都在同一个大小范围，学习率更容易设置，且梯度下降比较平稳。

5. 激活函数层的作用是什么？（为什么需要激活函数层）

数字图像中的图像像素值其实是在像素空间，神经网络是将图像从像素空间映射到特征空间，再从特征空间对数据进行分类。
这种映射需要通过非线性函数来实现。

6. 损失函数的作用是什么？

损失函数用来表现预测数据与实际数据的差距程度。损失函数是神经网络优化的目标。损失函数决定了神经网络优化的方向。

7. 全连接层的作用是什么？

全连接层的作用都是对数据进行分类。第一种是图像通过卷积层提取了很多特征，第二种是将图像从像素空间映射到了特征空间，在特征空间可以像在二维平面上对对两类数据进行分类那样，全连接层就是相当于一个超平面，将各个类别在特征空间将它们分开。