1、dropout中概率参数p,是指单个神经元被丢弃的概率。
2、训练阶段droup的开关放在激活值之后,
3、测试阶段,每个激活值后乘以q(保留概率),以此来缩放激活函数。
4、某一层有n个神经元,则一次迭代丢弃的神经元个数是不确定的,它是个随机变量,服从二项分布。
5、经过多轮训练,某层神经元平均丢弃的个数为概率为n*p。
6、在n*p处的概率最大,并以p=0.5为左右对称分布。
dropout个人理解
最新推荐文章于 2024-07-12 08:54:38 发布
1、dropout中概率参数p,是指单个神经元被丢弃的概率。
2、训练阶段droup的开关放在激活值之后,
3、测试阶段,每个激活值后乘以q(保留概率),以此来缩放激活函数。
4、某一层有n个神经元,则一次迭代丢弃的神经元个数是不确定的,它是个随机变量,服从二项分布。
5、经过多轮训练,某层神经元平均丢弃的个数为概率为n*p。
6、在n*p处的概率最大,并以p=0.5为左右对称分布。