局部连接:
局部区域大小就是滤波器Filter,每一个卷积核对应一个Filter,对区域内数据进行卷积操作;
权值共享:
遍历一次CNN结构(或者一层卷积层),每一层的每一个卷积核,在滑动计算一个Batch size的图像矩阵时,卷积核的参数都是固定的,直到下一轮卷积操作前才会更新权值;
卷积神经网络最大的特点就在于它的局部连接和权值共享,通过卷积操作实现局部连接,这个局部区域的大小就是滤波器filter,避免了全连接中参数过多造成无法计算的情况,再通过参数共享来缩减实际参数的数量,为实现多层网络提供了可能。
参数计算:
在下图中,如果不使用权值共享,则特征图由10个32321的特征图组成,每个特征图上有1024个神经元,每个神经元对应输入图像上的一块553的区域,所以一个神经元和输入图像的这块区域有75个连接(即每一次计算神经网络的卷积核的权值都不是固定的),即75个权值参数,则共有75102410=768000个权值参数,这对于参数的调整和传递非常不利,因此卷积神经网络引入权值共享原则,一个特征图上每个神经元对应的75个权值参数被每个神经元共享,这里的共享其实就是指的每个神经元中75个权值参数采用对应相同的权值,权值共享时,只是在每一个filter