本文探讨了过拟合现象及其原因，包括噪声数据的影响和VC维过高带来的问题。提出了几种解决过拟合的方法，并对比了L1与L2正则化在泛化能力上的区别。同时，文章还强调了简单模型的重要性以及抽样偏差对模型训练的影响。
过拟合
- 噪声数据和过高的VC维容易造成过拟合
- 过拟合处理：过于拟合训练数据，泛化误差比较大
泛化误差
L1与L2泛化比较
三个学习原则
奥卡姆剃刀：简单模型更有效，复杂模型容易过拟合
抽样偏差:样本抽样不均匀，结果必然偏差（garbage in，garbage out，没有免费的午餐 ）
- 数据驱动
Comments
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
