文章目录
L1 loss-平均绝对误差(Mean Absolute Error——MAE)
指模型预测值f(x)和真实值y之间距离的均值,公式如下:
优点:无论对于什么样的输入值,都有着稳定的梯度,不会导致梯度爆炸问题,具有较为稳健性的解
缺点:在中心点是折点,不能求导,不方便求解
L2 loss-均方误差(Mean Square Error——MSE)
优点:各点都连续光滑,方便求导,具有较为稳定的解
缺点:不是特别的稳健,因为当函数的输入值距离真实值较远的时候,对应loss值很大在两侧,则使用梯度下降法求解的时候梯度很大