43、机器学习模型评估与数据预处理

机器学习模型评估与数据预处理

1. 偏差 - 方差分解

在创建一个既能拟合训练集，又能在验证阶段对后续观测进行正确分类的模型时，存在明显的挑战。
- 过拟合与欠拟合 ：
- 若模型紧密拟合训练观测值，新观测值可能无法正确分类，这种复杂模型通常具有低偏差和高方差，原因可能是过度相信所选训练观测值能代表真实世界。
- 若模型对训练集拟合较松散，新观测值被分类为正类的概率增加，此模型具有高偏差和低方差。
- 数学定义 ：
- 对于真实模型 $\theta$，方差和偏差定义如下：
- 方差：$var(\hat{\theta}) = E[(\hat{\theta} - E[\hat{\theta}])^2]$
- 偏差：$bias(\hat{\theta}) = E[\hat{\theta}] - \theta$
- 均方误差：$MSE(\hat{\theta}) = var(\hat{\theta}) + bias(\hat{\theta})^2$
- 示例代码 ：

class BiasVarianceEmulator[T <% Double](emul: Double => Double, 
nValues: Int) {

  def fit(fEst: List[Double => Double]): Option[XYTSeries] = {
     val rf = Range(0, fEst.size)
     v