正规分析
@(My machine learing)
week 3rd 5.2
The Problem of Overfitting
简单的说,就一个数据比较少时
符合曲线符合的很好,可能很扭曲,但是就是局限于数据
但对应新样本就会导致high bias
解决方法
- 人工检查
- 算法实现
- 正规化,去除峰值
Regularization
对于一个正规分析
主要就是对应cost fuction 的方式的改变,对多项式进行惩罚
对应房价问题
研究发现要对每一个(除了theta(0))都要进行simplify
加一个惩罚参数很大
下面对两种方法进行分析
Linear Regression
Gradient Descent
Normal Equation