提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档
一、CNN结构?
1.卷积层
- 作用:提取特征
- 卷积层参数量计算方法
- 卷积层输出大小计算【向下取整】
- 采用小卷积核的优势?
- 卷积核的大小为什么都是奇数*奇数
更容易paddding, 采用same padding时可以与原来的大小一样。
2.池化层
- 作用:下采样;减轻模型的过拟合风险
- 分类:最大池化和平均池化
- 最大池化怎么反向传播?
与dropout类似,根据最大值来筛选,剩下的神经元抛弃。反向传播的时候就更新保留下来的神经元和与之相关的有关权重,其他是0 - 平均池化怎么反向传播?
反向传播的过程就是把某个元素的梯度等分为n份分配给前一层,保持池化前后的梯度之和不变。
池化层反向传播过程
3.全连接
- 定义:在相邻的两层神经网络中,前一层的每个神经元与后一层的每个神经元都有连接。
- 缺点:参数太多
- 参数计算方法
(上一层神经元个数+1)*当前层神经元个数
全连接层参数计算方法
二、CNN优势
1.局部连接
- 每个神经元仅与输入神经元的一块区域连接
2.权值共享
- 卷积核内的参数不会因为卷积位置的改变而改变
- 一个通道使用同一个卷积核。
3.池化操作
4.多层次结构
三、CNN使用范围
- 具有局部空间相关性的数据
附: 感受野的计算