本文探讨了神经网络中偏差与方差的概念，通过分析训练集和验证集误差，揭示了高偏差（欠拟合）、高方差（过拟合）的区别，并提出了相应的解决策略。对于高偏差，可以通过增加网络复杂度、延长训练时间或尝试新框架来改善；而对于高方差，则可以利用更多数据、实施正则化或调整框架来缓解过拟合问题。
这里假设所用的分类器是最优分类器，而且训练集、验证集、测试集均属于同一分布。
偏差与方差主要与两个因素有关：
训练集误差（train set error）、验证集误差（dev set error）
| train set error | 1%（很小） | 15%（较大） | 15% | 0.5% |
| dev set error | 11%（较大） | 16%（较大，但相较于train set error是合理的） | 30%（过大） | 1% |
| 方差、偏差 | 高方差（数据过拟合） | 高偏差（数据欠拟合） | 高方差、高偏差 | 低方差、低偏差 |
具体分析如下
最低0.47元/天 解锁文章
扫一扫
2527
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
