tensorflow中的交叉熵损失

tf.nn.softmax_cross_entropy_with_logits传入的 labels是one-hot编码，logits需未使用softmax，
tf.nn.softmax_cross_entropy_with_logits对传入的logits先计算softmax激活后的输出，再计算与 labels间的交叉熵

import tensorflow as tf

logits=tf.constant([[1.0,2.0,5.0],[1.0,2.0,3.0],[1.0,2.0,3.0]])
y_=tf.constant([[0.0,0.0,1.0],[0.0,0.0,1.0],[0.0,0.0,1.0]])
#dont forgettf.reduce_sum()!!
tf_softmax = tf.nn.softmax_cross_entropy_with_logits(labels=y_, logits=logits)
cross_entropy2=tf.reduce_sum(tf_softmax)
with tf.Session() as sess:
    print('tf_softmax:\n',sess.run(tf_softmax))
    c_e2 = sess.run(cross_entropy2)
    print("cross_entropy2:\n",c_e2)

输出

tf_softmax:
 [0.06588391 0.40760595 0.40760595]
cross_entropy2:
 0.88109577

tf.reduce_xxx系列在指定维度上对矩阵操作