- 博客(2)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 Batch Normalization
BN的简单计算步骤为：沿着通道计算每个batch的均值 μ=1m∑i=1mxi\mu = \frac{1}{m} \sum_{i=1}^m x_iμ=m1∑i=1mxi。沿着通道计算每个batch的方差δ2=1m∑i=1m(xi−μb)2\delta^2 = \frac{1}{m} \sum_{i=1}^m (x_i - \mu_b)^2δ2=m1∑i=1m(xi−μb)2。对xxx 做归一化，x^i=xi−μbδb2+ϵ\hat x_i = \frac{x_i - \mu_b}{\s
2021-05-05 18:19:57
477
原创 tf.keras.layers.BatchNormalization
tf.keras.layers.BatchNormalizationBatch normalization 应用一种转换，使数据的均值接近于0，标准差接近1。在训练和推理过程中，Batch normalization的工作方式是不同的apihttps://www.tensorflow.org/api_docs/python/tf/keras/layers/BatchNormalizationtf.keras.layers.BatchNormalization( axis=-1, momen
2021-05-04 16:13:15
2828
小谈激活函数
2019-05-06
Deeplearning Notes
2019-05-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人