机器学习基础 - [第五章：神经网络学习]（3）模型表示

1、前向传播：向量化实现

上一篇文章，我们提到了神经网络种的一些约定表示，我们还可以进一步利用一些符号简化表示：
比如，将连接第2层的第1个单元的线性加权和${\Theta }_{10}^{(1)}{x}_0+{\Theta }_{11}^{(1)}{x}_1+{\Theta }_{12}^{(1)}{x}_2$表示成$z_1^{(2)}$，这样，该单元逻辑函数的输出值：
$a_1^{(2)}=g(z_1^{(2)})$，
同理，
$a_2^{(2)}=g(z_2^{(2)})$
$a_3^{(2)}=g(z_3^{(2)})$
进一步，如果把$x$记为$a^{(1)}$，
那么：
$z^{(2)}={\Theta }^{(1)}{a}^{(1)}$
$a^{(2)}=g(z^{(2)})$
$add{a}_0^{(2)}=1$

$z^{(3)}={\Theta }^{(2)}{a}^{(2)}$
$a^{(3)}=g(z^{(3)})$
$h_{\Theta }(x)=a^{(3)}$

从前向传播的式子可以看出，每一层的输入都是上一层抽象出来的特征：