深度学习中的损失函数

1.交叉熵损失函数

理解交叉熵函数在神经网络中的作用

2.平方差损失函数

平方差损失函数和交叉熵损失函数的比较

3.对数损失函数

对数损失函数和平方差函数

4.绝对值误差

这个概念就比较简单了，就是预测值和真实值差值的绝对值，当然，为了评估预测的准确程度，当然绝对值越小越好。

5.0-1损失函数

0-1损失函数，主要思想就是，如果预测的标签和真实标签相同，那末损失函数就为0，不相同时，损失函数为1。可以看出，该条件非常苛刻，以至于在实际中很难达到要求，因此，出现了一个鲁棒性比较好的改进版。改进版的0-1函数通过设定绝对差值范围 t 来限制0或1。当预测的标签值和真实标签差值的绝对值小于t时，则认为二者相同，此时的损失函数为0；当预测的标签值和真实标签差值的绝对值大于t时，则认为二者不同，此时的损失函数为1。