权重衰退+Dropout

权重衰退,又称L1或L2正则化,是防止深度学习模型过拟合的有效方法。通过在损失函数中添加正则项,训练期间模型的权重会被约束,避免权重值过大导致过度复杂。在推理时,不使用正则项以获得更简洁的模型。 Dropout技术则是另一种防止过拟合的手段,它在训练过程中随机忽略一部分神经元,增加模型的泛化能力。乘法运算在GPU上的计算速度更快,因此在实现Dropout时常用此方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

权重衰退(比较常见的解决过拟合的方法)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
为什么叫权重衰退?

在这里插入图片描述

在这里插入图片描述

实现

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
=0过拟合
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

p的概率变成0,1-p的概率相应的放大

在这里插入图片描述
h是结果,对得到的每个结果做一个dropout

在这里插入图片描述
在这里插入图片描述

训练模型的时候使用正则项,推理的时候就不用了

在这里插入图片描述

在这里插入图片描述
使用乘法,而不直接赋值(x[mask]=0)的原因是GPU乘法的计算更加fast

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值