超级会员免费看
Filter Response Normalization
测试的比bn小，但是精度好像没有bn高
分1d 2d ：
代码中有个错误，keepdims应该是keepdim
这个稍微全点：
目标检测效果没有变好
https://github.com/yukkyo/PyTorch-FilterResponseNormalizationLayer/blob/master/frn.py
这个比上面简单点，一个参数：
本文介绍了FRN（Filter Response Normalization），一种消除深度学习模型对batch依赖的归一化方法。与BN和GN相比，FRN在小batch尺寸下也能保持稳定性能，并在某些场景下优于BN。FRN不依赖batch统计，其归一化过程不减去均值，而是使用二次范数的平均值，且结合了Thresholded Linear Unit（TLU）激活层，以解决归一化后可能产生的0值问题。
订阅专栏 解锁全文
扫一扫
3753
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
