卷积神经网络是实际应用中最为成功的神经网络。卷积在机器学习中有两个具体的优势:稀疏连接和参数共享。
- 对一幅图像进行卷积,使用卷积核进行卷积,然后卷积后得到特征映射或者特征图(Feature Map)。卷积就是对数据加权求和。一般而言,卷积使用星号表示卷积的过程,卷积适合交换律。在机器学习中卷积就是就是局部特征乘以对应的权重,然后再累加起来即可。
- 稀疏连接:在传统的神经网络中,每个神经元都会连接到上层的所有神经元中,这种属于全连接。而稀疏连接指的是,神经元只会连接到上层中的部分神经元,这种连接就被称为稀疏连接。因为稀疏连接可以减少参数的个数,所以也是一种防止过拟合的手段。本来需要O(m×n)O(m×n)的时间复杂度,在将每个输出单元都限制在kk连接参数的稀疏连接方式后,所需的参数减少到