《吴恩达深度学习》学习笔记004_深层神经网络(Deep Neural Networks)

http://www.ai-start.com/dl2017/html/lesson1-week4.html

深层神经网络(Deep Neural Networks)

深层神经网络（Deep L-layer neural network）

前向传播和反向传播（Forward and backward propagation）

深层网络中的前向传播（Forward propagation in a Deep Network）

核对矩阵的维数（Getting your matrix dimensions right）

为什么使用深层表示？（Why deep representations?）

搭建神经网络块（Building blocks of deep neural networks）

参数VS超参数（Parameters vs Hyperparameters）

想要你的深度神经网络起很好的效果，你还需要规划好你的参数以及超参数。

什么是超参数？

比如算法中的learning rate $a$（学习率）、iterations(梯度下降法循环的数量)、$L$（隐藏层数目）、$n^{[l]}$（隐藏层单元数目）、choice of activation function（激活函数的选择）都需要你来设置，这些数字实际上控制了最后的参数$W$和$b$的值，所以它们被称作超参数。

深度学习和大脑的关联性（What does this have to do with the brain?）