Jingyang.Zhang的博客

BatchNorm 在 U-Net 中的实战作用 —— 踩过的坑BatchNorm 简介BatchNorm 代码实现 (pytorch)实际在 U-Net 中有无 BatchNorm 的影响BatchNorm 简介BatchNormalization 作为神经网络训练的大杀器，广泛的应用于各类网络的训练中。其好处在于：收敛过程大大加快，从而提升训练速度；提升网络性能，这点可以理解成类似于 Dropout 的防止过拟合的正则化方式；简化调参过程，对参数初始化要求没有那么高，可以使用大的学习率；

　　本文介绍的内容适用于 tf.contrib.metrics.streaming_true_positives 以及类似的 streaming_XXX 的 metrics。调用格式import tensorflow as tfa = tf.Variable([0,1,1,0], tf.bool)b = tf.Variable([0,1,0,1], tf.bool)tp, tp_...

　　其实tensorflow里面如何改变tensor的值一直是很令人苦恼的事儿，不过我最近发现 tf.assign 函数可以对 tensor 进行整体的赋值。调用方式import tensorflow as tfw = tf.Variable(initial_value=[[1,1], [1,1]], dtype = tf.float32)update = tf.assign(...

Batch Normalization 的公式y=γx−μσ+ϵ+βy = \gamma \frac{x-\mu}{\sigma + \epsilon}+\betay=γσ+ϵx−μ​+β参数：xxx 是输入数据，yyy 是 batch normalization 的结果，γ\gammaγ 和 β\betaβ 是可学习的参数确保数据被过度正则化为均值 0 方差 1 的数据，而 μ\muμ ...

问题描述显示字典中所有键对的值，并将其一行一行的打印出来。显示类中所有属性的值，并将其一行一行的打印出来。这个两个问题有助于 debug 的时候清晰的显示封装变量中的属性，提高代码的纠错和可读性。---------------------------------------------------------------------------------------------解决...