在Tensorflow下用VGG19 pre-train的model跑一个人脸表情库,做一个二分类。
出现loss除了迭代的第一个值,其余输出均是0.693174
百度解决方法,发现需要在全连接层的权重加权重衰减(l2正则化)
在把权重衰减loss和交叉熵loss添加到总loss里。
Tensorflow中具体实施如下:
flattened_shape = 8 * 8 * 512
reshp = tf.reshape(pool5, [-1, flattened_shape], name='resh1')
w_fc1 = utils.weight_variable([flattened_shape, 4096])
# 加正则化
regularizer &#