机器学习中的一些COST函数的说明

ruskeeyao

于 2017-11-16 16:30:49 发布

阅读量5.3k

点赞数 1

分类专栏：机器学习文章标签：机器学习

本文链接：https://blog.youkuaiyun.com/u014084065/article/details/78552737

版权

本文详细介绍了机器学习中用于Regression问题的RMSLE（Root Mean Squared Logarithmic Error）、RMSE（Root Mean Squared Error）和MAE（Mean Absolute Error）三个Cost函数。RMSLE关注比例差异，对低估惩罚更重；RMSE关注绝对值，适用于抑制大误差；MAE则仅关注偏移误差。此外，还简要提到了Classification问题中的Confusion Matrix及其相关评估指标。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一般这些函数都能在 sklearn.metrics 中找到

Regression问题

以下Cost主要针对Regression问题

RMSLE (Root Mean Squared Logarithmic Error )

sklearn.metrics.mean_squared_log_error，没有root，问题不大。
标准公式如下：
$\displaystyle\sqrt{\frac{1}{n}\sum_{i=1}^{n}({(\log(p_i+1)}-{\log(a_i+1)})^2}$

$p_i$ 是prediction，对应着RMSE的 $y_i$ ， $a_i$ 是actual，对应着RMSE的 $\hat{y}_i$

RMSLE measures the ratio between actual and predicted. 可以写成 $\displaystyle\log{\frac{p_i+1}{a_i+1}}$

It can be used when you don’t want to penalize huge differences when both the values are huge numbers.
Also, this can be used when you want to penalize under estimates more than over estimates.

就是说，它关注的是比例而不是绝对值（Only the percentual differences matter! ），同时，如果预测值比实际值低时，它的惩罚更高。