权重衰退+Dropout

原创于 2021-07-11 12:50:50 发布 · 204 阅读

·

0

·

CC 4.0 BY-SA版权

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

深度学习专栏收录该内容

175 篇文章

订阅专栏

权重衰退，又称L1或L2正则化，是防止深度学习模型过拟合的有效方法。通过在损失函数中添加正则项，训练期间模型的权重会被约束，避免权重值过大导致过度复杂。在推理时，不使用正则项以获得更简洁的模型。 Dropout技术则是另一种防止过拟合的手段，它在训练过程中随机忽略一部分神经元，增加模型的泛化能力。乘法运算在GPU上的计算速度更快，因此在实现Dropout时常用此方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

权重衰退(比较常见的解决过拟合的方法)

在这里插入图片描述

为什么叫权重衰退？

在这里插入图片描述

在这里插入图片描述

实现

在这里插入图片描述

=0过拟合

在这里插入图片描述

在这里插入图片描述

p的概率变成0，1-p的概率相应的放大

在这里插入图片描述
h是结果，对得到的每个结果做一个dropout

在这里插入图片描述

训练模型的时候使用正则项，推理的时候就不用了

在这里插入图片描述

在这里插入图片描述
使用乘法，而不直接赋值(x[mask]=0)的原因是GPU乘法的计算更加fast

在这里插入图片描述

在这里插入图片描述

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。