【深度学习基础】模型过拟合

深度学习之过拟合

过拟合&欠拟合

过拟合:在训练集上表现很好,但在测试集上表现不佳。
欠拟合:训练集上表现不行,测试集上表现也不行。

导致过拟合的原因

1、模型太复杂:模型过于复杂,以至于可以完全记住训练集上的数据,不需要去学习。
2、数据不够多:数据少,容易被记住。
李宏毅老师图:
Bias代指偏差,期望与靶心的差距。
Variance代指误差,实际与期望的差距。
简单的模型Bias大,Variance小。
复杂的模型Bias小,Variance大。
因为简单的模型一根筋,瞄不准。复杂模型瞄的准。所以简单模型Bias大,复杂模型Bias小。
因为简单的模型容易被记住,所以误差小,复杂模型不容易被记住,所以误差大。
Bias的大小可以理解为在训练集上的效果。Variance的大小可以理解为在测试集上的效果。
Bias大欠拟合,需要redesign模型,因为你的function set里面可以没有最合适的function。
Variance大过拟合.1、more data 2、Regularization,使曲线变得更平滑。

在这里插入图片描述

解决过拟合的方法

正则化

数据增广

增加训练集的数据。
例如:一张图片,可以对其进行反转,加滤镜,裁剪等使其变为多张图片。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值