一、观察3:下采样不影响模式检测
把一张比较大的图像做下采样(downsampling),把图像偶数的列都拿掉,奇数的行都拿掉,图像变成为原来的 1/4,但是不会影响里面是什么东西。如图,把一张大的鸟的图像缩小,这张小的图像还是一只鸟。
二、简化3:汇聚
汇聚比较像 Sigmoid、 ReLU 等激活函数,因为它里面是没有要学习的参数的,它就是一个操作符(operator),其行为都是固定好的。
每个滤波器都产生一组数字,要做汇聚的时候,把这些数字分组,可以 2 × 2个一组,3 × 3、4 × 4 也可以。
汇聚有很多不同的版本,以最大汇聚(max pooling) 为例。最大汇聚在每一组里面选一个代表,选的代表就是最大的一个。
最大汇聚结果: