机器学习10：神经网络的损失函数（Cost Function）

损失函数：
假设一共有$m$个样本，$L$层神经网络，$K$种输出结果：
$$\begin{gathered} J(\Theta )=-\frac{1}{m}\left[\sum _{i=1}^m\sum _{k=1}^K{y}_k^{(i)}log(h_{\Theta }(x^{(i)}){)}_k+(1-y_k^{(i)})log(1-(h_{\Theta }(x^{(i)}){)}_k)\right] \\ +\frac{\lambda }{2m}\sum _{l=1}^{L-1}\sum _{i=1}^{s_l}\sum _{j=1}^{s_{l+1}}({\Theta }_{ji}^{(l)}{)}^2 \end{gathered}$$
其中，$h_{\Theta }(x)\in R^K,(h_{\Theta }(x){)}_i=i^{th}output$