【神经网络】损失函数

1、损失函数

损失函数是计算预测结果与实际结果偏差的函数。损失函数选的不好，你会发现，优化了半天看不到优化的效果。所以损失函数的选择hin重要。
直观想到的算是函数还有如下几种：
分类问题，可以计算误分类的个数、误分类的概率；
回归问题，可以计算到超平面的距离，比如$L^p$距离。
然而，实际用到的却比较多，考虑的因素也比较多。

2、常用的损失函数

2.1、均方差损失

（$L^2$损失）可以记为$ESM$
M S E = ∑ i = 1 n ( y i − y p r e d i c t i ) 2 MSE=\sum\limits_{i=1}^n(y_i-ypredict_i)^2