李宏毅机器学习——误差和梯度下降

1.误差的来源

Average Error随着模型复杂增加cheng指数上升，更复杂的模型，并不能给测试集带来更好的效果，而误差来自于bias（偏差）和variance（方差）。

2.估测变量x的偏差和方差

评估变量x的偏差

注：图片中的larger N 和 smaller N位置相反才对。

估测x的方差

3.偏差vs方差

偏差大——欠拟合
方差大——过拟合

4.模型选择

（1）传统方法
（2）交叉验证

（3）N-折交叉验证