【评估指标】误差

在深度学习中，误差（Error） 是衡量模型预测与真实值之间差异的指标。误差的选择和计算方式对模型的训练、评估以及优化方向至关重要。

一、误差的分类

1. 绝对误差（Absolute Error）

定义：

绝对误差计算的是预测值与真实值之间的绝对差值。

优点：

• 简单易懂。
• 对异常值的敏感性比平方误差低。

缺点：

• 不可微分，优化困难（通常用平滑的替代函数，如 Huber Loss）。

2. 平方误差（Squared Error）

定义：

平方误差是预测值与真实值之间的差值的平方。

常用指标：

• 均方误差（MSE）:
  

• 根均方误差（RMSE）:
  

优点：

• 易于优化（连续且可微）。
• 放大了大误差的惩罚，适合对异常值敏感的任务。

缺点：

• 对异常值敏感，可能影响模型的收敛。

3. 相对误差（Relative Error）

定义：

相对误差衡量误差相对于真实值的比例。

常用指标：

• 平均绝对百分比误差（MAPE）:
  

优点：

• 适合实际业务场景的解释性，如预测的相对准确性。

缺点：

• 当真实值接近 0 时，可能导致不稳定。

4. 对数误差（Logarithmic Error）

定义：

对数误差用于平衡不同尺度的预测值，尤其适用于对数分布的数据。

常用指标：

• 对数均方误差（MSLE）:
  

优点：

• 对大范围数据更加鲁棒。
• 减少了异常值的影响。

缺点：

• 对预测值为负的数据不适用。

5. 分类误差

适用于分类任务的误差指标，包括：

• 准确率（Accuracy）:
  

• 交叉熵误差（Cross Entropy Loss）:
  

• F1 Score:
  

6. 自定义误差

根据任务需求，可以定义新的误差函数，例如：

• Huber Loss（结合绝对误差和平方误差的优点）：
  

二、如何选择误差类型

回归任务

数据特性	推荐误差
正常分布数据	MSE 或 RMSE
存在异常值	MAE、Huber Loss
数据分布跨度大（对数分布）	MSLE 或 Log Loss

分类任务

数据特性	推荐误差
平衡数据	Cross Entropy Loss
不平衡数据	Focal Loss、Weighted Loss
多标签分类	Binary Cross Entropy

时间序列或序列预测任务

数据特性	推荐误差
时间敏感	Time-series MSE
对比例更感兴趣	MAPE、MSLE