Deep Learning

1.1.1   什么是神经网络

速通版：

全连接网络：根据预测结果，计算隐藏层的参数变化梯度（方向），根据提前设定的大小更新参数。一般情况下隐藏层/神经元越多，拟合能力越强

卷积网络：使用卷积核对最初的矩阵（也可以叫做最原始的特征图）进行卷积，获得特征图，然后使用卷积核在特征图上卷积，获得新的特征图。。。依次循环得到最终的特征图。最后使用全连接网络进行结果预测（比如最终的特征图是2*2矩阵，可以将其向量化，转化为4*1矩阵，转入全连接层），此时的全连接层一般不再加隐藏层，因为前面的卷积已经更更新了很多特征。

1D卷积：就是矩阵有多少行，卷积核就用多少行（卷积的时候只向右横向移动）。2D卷积就是可以左右移动也可以上下移动（如灰度图）；3D卷积就是最初的矩阵是三维的（如颜色RGB图）