本文深入解析BatchNormalization层中use_global_stats参数的作用与设置方法。在训练阶段，此参数需保持默认的false状态，以利用每批次数据进行标准化，促进模型收敛。而在测试阶段，则应调整为true，使用整个数据集的均值和方差，确保模型预测的准确性。错误的设置可能导致模型不收敛或测试准确率低下。
Batch Normalization层中有个参数use_global_stats，它表示是否使用caffe内部的均值和方差。
训练的时候，要将use_global_stats设置为false，也可以不写，caffe默认是false。测试的时候将use_global_stats设置为true。
影响：
1.训练如果不设为false，会导致模型不收敛
2.测试如果不设置为true，会导致准确率极低
区别：
use_global_stats: false是使用了每个Batch里的数据的均值和方差；
use_global_stats: true是使用了所有数据的均值和方差
参考文献：
- https://www.jianshu.com/p/d8e0d847dbd1
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
