weixin_64293928的博客

原创 BN，LN，GN的区别

BN 是在每个训练小批量（batch）上进行归一化的技术。具体来说，对于每个特征通道，在一个小批量中计算均值和标准差，然后用这些值对该批量的特征进行归一化。