机器学习中偏差和方差

1 过拟合和欠拟合

对下面的圆圈和叉进行分类

​

一般有这2中情况：

 

 前一种叫欠拟合，模型太简单了，具有很高的偏差，第二种叫过拟合，具有很高的方差。比较适中的是下面的方法

​

2 高偏差和高方差

一般来说，训练集的误差高是由高偏差引起的，验证集或者测试集的误差高是由高方差引起的，这需要对比来看，举个例子：

训练集的误差8%，测试集的误差9%，典型的高偏差，模型欠拟合

训练集的误差2%，测试集的误差8%，典型的高方差，模型过拟合

3 怎么处理

欠拟合，一般是因为模型太简单，需要增加模型复杂度，先提升训练集上的性能。

过拟合，