dropout个人理解

1、dropout中概率参数p，是指单个神经元被丢弃的概率。
2、训练阶段droup的开关放在激活值之后，
3、测试阶段，每个激活值后乘以q（保留概率），以此来缩放激活函数。
4、某一层有n个神经元，则一次迭代丢弃的神经元个数是不确定的，它是个随机变量，服从二项分布。
5、经过多轮训练，某层神经元平均丢弃的个数为概率为n*p。
6、在n*p处的概率最大，并以p=0.5为左右对称分布。