总结对比下L1L_1L1 损失函数，L2L_2L2 损失函数以及SmoothL1\text{Smooth} L_1SmoothL1 损失函数的优缺点。 均方误差MSE (L2L_2L2 Loss) 均方误差（Mean Square Error,MSE）是模型预测值f(x)f(x)f(x) 与真实样本值yyy 之间差值平方的平均值，其公式如下 MSE=∑i=1n(fxi−yi)2n MSE = \frac{\sum_{i=1}^n(f_{x_i} - y_i)^2}{n} MSE=n∑i=1n(fxi−yi)2 其中，yiy_iyi和f(xi)f(x_i)f(xi
本文对比了L1 Loss、L2 Loss和Smooth L1 Loss，讨论了它们的优缺点。L2 Loss因其平滑性利于梯度下降，但对离群点敏感；L1 Loss对离群点不敏感但导数不连续；Smooth L1 Loss结合两者优点，防止梯度爆炸并降低离群点影响。
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
