【前馈神经网络】
- 前馈神经网络也叫做全连接网络。不过多介绍
- 缺点:
- 在图像识别中会将多维向量平铺成一维向量,会丢失像素点之间的距离关系。
- 无法将局部的权重应用到其他位置,带来的后果就是,如果在一个图像的右上角有一只猫,可以正确分类;当这只猫出现在左下角时,无法正确识别。
【局部连接】
- 所谓局部连接就是卷积神经网络。
- 卷积神经网络就是让权重在不同位置共享的神经网络。
- 如上图就是卷积运算,可以表示如下(两种不同的表达方式):
- 这是单通道、单卷积核下的计算方式。
- 每一次卷积运算,其实就是一次局部区域的线性组合,加上一个偏置后,得到下一层网络的一个神经元的输出。
【空间共享】
- 当卷积核扫到其他位置计算输出节点时,比如 y 1 y_1 y1, w 1 , w 2 , w 3 , w 4 和 b 0 w_1,w_2,w_3,w_4和b_0 w1,w2,w3