衡量线性回归法的指标：MSE, RMSE和MAE

最新推荐文章于 2025-02-17 00:48:58 发布
转载 最新推荐文章于 2025-02-17 00:48:58 发布 · 6.7k 阅读 · 11
文章标签：

#mse #rmse

本文详细探讨了线性回归模型的几种评估指标，包括MSE、RMSE、MAE及R方等，并对比了它们之间的差异及适用场景，旨在帮助读者理解如何选择合适的指标来评估模型性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

举个栗子：

对于简单线性回归，目标是找到a,b 使得尽可能小

其实相当于是对训练数据集而言的，即

当我们找到a，b后，对于测试数据集而言

，理所当然，其衡量标准可以是

但问题是，这个衡量标准和m相关。

（当10000个样本误差累积是100，而1000个样本误差累积却达到了80，虽然80<100，但我们却不能说第二个模型优于第一个）

改进==> 对式子除以m，使得其与测试样本m无关

 -> 

 但又有一个问题，之前算这个公式时为了保证其每项为正，且可导（所以没用绝对值的表示方法），我们对式子加了一个平方。但这可能会导致量纲的问题，如房子价格为万元，平方后就成了万元的平方。

又改进==> 对MSE开方，使量纲相同

->

 MSE与RMSE的区别仅在于对量纲是否敏感

 又一思路，通过加绝对值

 -> 

在推导a,b的式子时（对train数据集），没用求绝对值的方法是因为其不是处处可导，不方便用来求极值。但评价模型时，对test数据集我们完全可以使用求绝对值的方式。

 P.S. 评价模型的标准和训练模型时最优化的目标函数是可以完全不一样的。

RMSE vs MAE 

RMSE 与 MAE 的量纲相同，但求出结果后我们会发现RMSE比MAE的要大一些。

这是因为RMSE是先对误差进行平方的累加后再开方，它其实是放大了较大误差之间的差距。

而MAE反应的就是真实误差。因此在衡量中使RMSE的值越小其意义越大，因为它的值能反映其最大误差也是比较小的。

衡量线性回归法最好的指标 R Squared

对于上述的衡量方法，如RMSE和MAE还是有问题的，还是因为量纲不一样。比如我们预测考试分数误差是10，预测房价误差是1w。但我们却不能评价我们的模型是更适合预测分数还是预测房价。

解决方法==> 新的指标：R方

（上：y预测-y真，our model，下：y真平均-y真，baseline model）

 使用baseline模型肯定会产生很多错误，我们自己的模型产生的错误会少一些。

1 - ourModelError / baselineModelError = 我们模型拟合住的部分

 R方将回归结果归约到了0~1间，允许我们对不同问题的预测结果进行比对了。

我们可发现，上面其实就是MSE，下面就是方差

深度学习：MAE 和 RMSE 详解
南淮北安的博客
10-25 10万+
平均绝对误差MAE（mean absolute error） 和均方根误差 RMSE（root mean squared error)是衡量变量精度的两个最常用的指标，同时也是机器学习中评价模型的两把重要标尺。 那两者之间的差异在哪里？它对我们的生活有什么启示？ 文章目录一、定义二、比较三、应用 一、定义 平均绝对误差MAE（mean absolute error）是绝对误差的平均值，它其实是更一...
模型性能评估指标之回归：MAE、MSE、RMSE、MAPE、R2
最新发布
weixin_43908136的博客
06-21 908
模型性能评估指标之回归：MAE、MSE、RMSE、MAPE、R2
衡量线性回归法的指标MSE, RMSE,MAE和R Square
weixin_33749242的博客
03-01 1142
衡量线性回归法的指标：MSE, RMSE和MAE 举个栗子： 对于简单线性回归，目标是找到a,b 使得尽可能小 其实相当于是对训练数据集而言的，即 当我们找到a，b后，对于测试数据集而言 ，理所当然，其衡量标准可以是 但问题是，这个衡量标准和m相关。 （当10000个样本误差累积是100，而1000个样本误差累积却达到了80，虽然80<100，但我们却不能说第二个模型优于第...
【机器学习笔记】机器学习评价指标——MSE、RMSE、MAE、R2
A34436791的博客
09-21 1万+
但通常模型不会这么完美，总会有误差存在，当误差很小的时候，分子小于分母，模型会趋近 1，仍然是好的模型，随着误差越来越大，R2-score 也会离最大值 1 越来越远，直到出现第 2 中情况。R2-score 反映的是大概有多准，因为，随着样本数量的增加，R2-score必然增加，无法真正定量说明准确程度，只能大概定量。可以看出，RMSE=sqrt（MSE），因此，MSE 和 RMSE 二者是呈正相关的，MSE 值大，RMSE 值也大，所以在评价线性回归模型效果的时候，使用 RMSE 就可以了。
回归模型选择性能指标 | RMSE与MAE应用及其区别（L1-曼哈顿范数和L2-欧几里得范数)
用途：中英文学习笔记，如有侵权，可评论留言，及时清理；学历：NUS计算机硕士；SYSU地球物理学士
04-01 4869
机器学习回归问题常用的两种选择性能指标： 均方根误差（Root Mean Square Error-RMSE）： RMSE(X,h)=1m∑i=1m(h(x(i))−y(i))2 RMSE(\bold X,h)=\sqrt{\frac{1}{m}\sum_{i=1}^m(h(x^{(i)})-y^{(i)})^2} RMSE(X,h)=m1​i=1∑m​(h(x(i))−y(i))2​ 均方根...
【机器学习】衡量线性回归算法的指标：MSE、RMSE、MAE
在记录自己编程工作与编程生活的同时，给那些困于无法入门编程世界的朋友提供一点帮助，在有限的生命中给有需要的人尽一点绵薄之力。
02-17 1119
本文主要讲述了如何评价线性回归算法的模型质量。文中详细介绍了如何使用均方误差（MSE）和平均绝对误差（MAE）等指标来衡量模型的好坏，以及如何使用波士顿房价数据集进行实际应用。通过这些实际应用的例子，可以更好地理解如何评价线性回归算法的模型质量。此外，文中还介绍了如何将数据集分割为训练集和测试集，并使用训练集训练模型，然后使用测试集进行预测，以评估模型的预测准确性。
【线性回归算法】{3} ——衡量线性回归算法的指标MSE、RMSE、MAE和R Squared
Giyn
03-28 2146
此处介绍三种线性回归算法的衡量指标。 第一种：MSE（均方误差） 第二种：RMSE（均方根误差） 使用RMSE，采用同样的量纲的话，误差背后的意义更加明显。 量纲，又叫作因次，是表示一个物理量由基本量组成的情况。确定若干个基本量后，每个导出量都可以表示为基本量的幂的乘积的形式。引入量纲这一概念可以进行量纲分析，这既是物理学的基础，又有着很多重要应用。——维基百科 第三种：MAE（平均绝对...
机器学习：衡量线性回归法的指标（MSE、RMSE、MAE、R Squared）
java
08-06 5046
机器学习：衡量线性回归法的指标（MSE、RMSE、MAE、R Squared） 一、MSE、RMSE、MAE 思路：测试数据集中的点，距离模型的平均距离越小，该模型越精确 # 注：使用平均距离，而不是所有测试样本的距离和，因为距离和受样本数量的影响 　 　1）公式： MSE：均方误差 RMSE：均方根误差 MAE：平均绝对误差 二、具体实现 　1）自己...
衡量线性回归法的指标MSE、RMSE、MAE、R Squared（最佳）
Bonjour_h的博客
03-19 3342
线性回归算法的评测                                          &nbs
基于贝叶斯线性回归(bayesian)的时间序列预测，MATLAB代码 评价指标包括:R2、MAE、MSE、RMSE和MAP
08-28
MAE（平均绝对误差）和MSE（均方误差）是衡量误差大小的指标，前者关注绝对偏差，后者考虑平方误差，对大误差更敏感。RMSE（均方根误差）是MSE的平方根，易于与目标变量的单位保持一致。MAPE（平均绝对百分比误差）...
均方根误差（RMSE) 平均绝对误差（MAE） 标准差（Standard Deviation）的区别
qq_38250124的博客
03-05 4342
RMSE root mean square error均方根误差 是观测值与真值偏差的平方和与观测次数m比值的平方根。 是用来衡量观测值同真值之间的偏差 MAE Mean Absolute Error ，平均绝对误差 是绝对误差的平均值 能更好地反映预测值误差的实际情况. 标准差 Standard Deviation ，标准差 ...
均方根误差（RMSE），平均绝对误差(MAE)，标准差(Standard Deviation)的对比
热门推荐
cape的博客
11-24 21万+
RMSE Root Mean Square Error,均方根误差 是观测值与真值偏差的平方和与观测次数m比值的平方根。 是用来衡量观测值同真值之间的偏差 MAE Mean Absolute Error ，平均绝对误差 是绝对误差的平均值 能更好地反映预测值误差的实际情况. 标准差 Standard Deviation ，标准差 是方差的算数平方根 是用来衡量一组数自身的离散程度
模型预测精度（数值regression）评价指标 - RMSE, MAE, MAPE & Bias哪个指标更好？Forecast KPIs: RMSE, MAE, MAPE & Bias
weixin_47442572的博客
01-17 2万+
在销量/需求预测时常用的一些模型评价指标，尤其是在supplychain销量预测等领域，哪些指标好，哪些不好？什么时候用什么指标。
均方误差(MSE)和均方根误差(RMSE)和平均绝对误差(MAE)
sjyttkl的专栏
05-02 7万+
RMSERoot Mean Square Error,均方根误差是观测值与真值偏差的平方和与观测次数m比值的平方根。是用来衡量观测值同真值之间的偏差MAEMean Absolute Error ，平均绝对误差是绝对误差的平均值能更好地反映预测值误差的实际情况.标准差Standard Deviation ，标准差是方差的算数平方根是用来衡量一组数自身的离散程度...
回归评价指标（MSE、RMSE、MAE、R-Squared、拟合优度）
Black eyes的博客
07-23 9万+
文章目录拟合优度 拟合优度 拟合优度（Goodness of Fit）是指回归直线对观测值的拟合程度。度量拟合优度的统计量是可决系数（Coefficient of Determination）R²。可决系数，亦称测定系数、确定系数、决定系数、可决指数。 对于m个样本(x1→,y1),(x2→,y2),⋯ ,(xm→,ym)(\overrightarrow{x_{1}},y_{1}),(\overr...
线性回归评价几个指标（MAE，MSE，RMSE，R^2，MAPE）
SpinMeRound的博客
09-18 1万+
Python–线性回归评价指标实现 一、项目背景 （可不看） 最近在做非线性数据的数据预测，一头雾水，一年不学习，脑袋有问题。还记得上次做的数据是关于一个政务系统的热点问题分类模块，用了机器学习和深度学习啥的，满脸蒙，反正后面就是做完了（好多吐槽）。 现在做的是关于供应链模块的需求预测，简单说目前的运作流程是：客户需求–>营业人员经验修正–>客户需求生成。 面临问题：客户的需求不能保证准确性，营业人员出于保证出货而减少风险的考虑，修正的客户需求跟未来实际需求不一致，甚至多出十几倍。 修正办法：
Python3入门机器学习之3.5衡量线性回归法的指标：MSE，RMSE和MAE
qq_42686927的博客
06-23 2378
Python3入门机器学习 3.5 衡量线性回归法的指标：MSE，RMSE和MAE 1.线性回归算法的评测： (1).均方误差MSE（Mean Square Error）： (2).均方根误差RMSE（Root Mean Squared Error）： 均方根误差RMSE很好的解决了量纲的问题。 (3).平均绝对误差MAE（Mean Absolute Error）： 2.以上三个指标的过程： (1).首先准备数据，这里我们用sklearn为我们提供的波士顿的房产的数据： 可以观察到这个数据集有13个
SSE: MAE: MSE: RMSE: MAPE: NMAE:
04-02
<think>嗯，用户想了解机器学习中各种误差度量的区别和应用场景，包括SSE、MAE、MSE、RMSE、MAPE、NMAE这些。首先，我需要逐个解释每个指标的定义、计算公式、特点以及适用场景。然后比较它们的优缺点，帮助用户理解在什么情况下应该选择哪种指标。 先从SSE开始，SSE是误差平方和，属于平方损失函数，它对大误差比较敏感，容易受异常值影响。可能适用于需要强调大误差的情况，比如在模型初期筛选特征时使用，但需要结合其他指标一起分析。 然后是MAE，平均绝对误差。它计算的是绝对值的平均，对异常值更鲁棒，适用于数据中有较多异常值的情况，比如金融领域的某些预测问题。MAE的缺点是没有方向性，无法区分正负误差，但能直接反映平均误差大小。 接下来是MSE，均方误差。平方后的误差会放大较大误差的影响，所以对异常值敏感。MSE在训练模型时常用，因为它具有可导性，适合梯度下降优化。不过因为量纲问题，通常会用RMSE，即均方根误差，使其量纲与原数据一致，更容易解释。RMSE在评价模型整体性能时很常见，比如房价预测，但同样对异常值敏感。 MAPE是平均绝对百分比误差，用百分比表示，便于不同量纲的数据比较，适合商业场景中的需求预测。但它的缺点是在实际值接近零时会导致数值不稳定，甚至无穷大，所以不适合零附近波动的数据。 NMAE是归一化的平均绝对误差，通过除以数据范围或均值来标准化，使得不同数据集之间的比较更公平。比如在电力需求预测中，不同地区的数据规模差异大，用NMAE可以消除量纲影响。 接下来需要比较这些指标之间的区别，比如鲁棒性、量纲问题、适用场景。比如MAE和MSE在异常值处理上的不同，或者MAPE和NMAE在标准化方面的异同。 还要注意引用用户提供的资料。用户引用了三个来源，其中提到了MAE、RMSE、NMAE等指标，需要将这些引用自然地融入到回答中，比如在解释MAE时引用文献2，提到NMAE时引用文献1和3。 另外，用户可能的应用场景是什么？他们可能在模型评估阶段需要选择合适的指标，或者在处理不同数据分布时调整误差度量的选择。例如，数据含有异常值时建议使用MAE或Huber损失，而需要比较不同量纲的模型时使用MAPE或NMAE。 最后，生成相关问题，帮助用户进一步理解，比如如何选择适合的误差指标，或者在特定场景下的最佳实践。相关问题需要围绕这些指标的应用和比较展开。 可能需要注意的细节包括确保公式正确，使用$$...$$格式，行内公式用$...$。例如，MAE的公式是$$\text{MAE} = \frac{1}{n}\sum_{i=1}^n |y_i - \hat{y}_i|$$，而SSE是$$\text{SSE} = \sum_{i=1}^n (y_i - \hat{y}_i)^2$$。需要检查每个公式的LaTeX是否正确，尤其是上下标和括号。 总结步骤： 1. 分别介绍每个指标的定义、公式、特点、应用场景。 2. 对比它们的优缺点，突出不同情况下的适用性。 3. 引用用户提供的文献中的相关内容，例如MAE对异常值的鲁棒性[^2]，NMAE的归一化方法[^1][^3]。 4. 生成相关问题，帮助用户深入探讨。 需要避免的错误包括混淆RMSE和MSE的关系，或者误用MAPE的场景。同时，确保回答结构清晰，分点明确，便于用户理解。</think>### 误差度量的概念、区别与应用场景 在机器学习中，误差度量用于量化模型预测值与真实值之间的差异。以下是常见误差指标的定义、特点及适用场景的详细分析： --- #### 1. **SSE（Sum of Squared Errors，误差平方和）** - **公式**: $$\text{SSE} = \sum_{i=1}^n (y_i - \hat{y}_i)^2$$ - **特点**: - 对误差进行平方，放大较大误差的影响，对异常值敏感。 - 是MSE的基础，但未取平均，量纲与原数据平方一致。 - **应用场景**: - 常用于模型优化目标（如线性回归的最小二乘法）[^2]； - 适合需要强调大误差的模型初筛场景。 --- #### 2. **MAE（Mean Absolute Error，平均绝对误差）** - **公式**: $$\text{MAE} = \frac{1}{n}\sum_{i=1}^n |y_i - \hat{y}_i|$$ - **特点**: - 直接反映预测值与真实值的平均绝对差异，对异常值鲁棒。 - 计算简单，但无法区分误差方向（正/负）。 - **应用场景**: - 数据包含较多异常值（如金融风险评估）； - 需要稳定评估模型性能的场景。 --- #### 3. **MSE（Mean Squared Error，均方误差）** - **公式**: $$\text{MSE} = \frac{1}{n}\sum_{i=1}^n (y_i - \hat{y}_i)^2$$ - **特点**: - 放大较大误差，对异常值敏感，但数学性质良好（可导），适合梯度下降优化。 - 量纲与原数据平方一致。 - **应用场景**: - 回归模型训练时的损失函数； - 需要快速收敛的优化问题。 --- #### 4. **RMSE（Root Mean Squared Error，均方根误差）** - **公式**: $$\text{RMSE} = \sqrt{\text{MSE}}$$ - **特点**: - 量纲与原数据一致，更易解释； - 仍对异常值敏感，但比MSE更直观。 - **应用场景**: - 模型性能的最终评价（如房价预测）； - 需要平衡误差大小和解释性的场景。 --- #### 5. **MAPE（Mean Absolute Percentage Error，平均绝对百分比误差）** - **公式**: $$\text{MAPE} = \frac{100\%}{n}\sum_{i=1}^n \left|\frac{y_i - \hat{y}_i}{y_i}\right|$$ - **特点**: - 以百分比表示误差，便于跨量纲比较； - 当真实值接近零时不稳定（分母过小）。 - **应用场景**: - 商业需求预测（如销量、库存）； - 数据规模差异较大的比较。 --- #### 6. **NMAE（Normalized Mean Absolute Error，归一化平均绝对误差）** - **公式**: $$\text{NMAE} = \frac{\text{MAE}}{\text{数据范围或均值}}$$ - **特点**: - 通过归一化消除量纲影响，适合不同数据集的横向对比[^1]。 - **应用场景**: - 标准化评估（如电力需求预测[^3]）； - 多模型或多场景性能对比。 --- ### 关键区别与选择建议 | 指标 | 鲁棒性 | 量纲敏感性 | 适用场景 | |-------|--------|------------|------------------------------| | SSE | 低 | 平方量纲 | 模型优化目标 | | MAE | 高 | 原量纲 | 含异常值的数据 | | MSE | 低 | 平方量纲 | 梯度下降优化 | | RMSE | 低 | 原量纲 | 最终性能评价 | | MAPE | 中 | 百分比 | 跨量纲比较（避免零值） | | NMAE | 高 | 无 | 标准化评估（多数据集对比） | --- ### 示例代码（Python实现） ```python import numpy as np def calculate_metrics(y_true, y_pred): sse = np.sum((y_true - y_pred)**2) mae = np.mean(np.abs(y_true - y_pred)) mse = np.mean((y_true - y_pred)**2) rmse = np.sqrt(mse) mape = 100 * np.mean(np.abs((y_true - y_pred)/y_true)) nmae = mae / (np.max(y_true) - np.min(y_true)) return {"SSE": sse, "MAE": mae, "MSE": mse, "RMSE": rmse, "MAPE": mape, "NMAE": nmae} ``` ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值