关于softmax_cross_entropy_with_logits以及sparse_softmax_cross_entropy

最新推荐文章于 2021-08-10 10:57:01 发布

爱码仕1024

最新推荐文章于 2021-08-10 10:57:01 发布

阅读量1.1k

点赞数

CC 4.0 BY-SA版权

分类专栏： Tensorflow 文章标签： Tensorflow函数解释

本文链接：https://blog.youkuaiyun.com/the_little_fairy___/article/details/83904236

本文介绍了Tensorflow中的两个函数softmax_cross_entropy_with_logits()和sparse_softmax_cross_entropy_with_logits()，详细阐述了它们的使用方法、参数要求及内部工作原理，并通过示例代码和输出结果进行了验证和解析。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1、softmax_cross_entropy_with_logits()

函数原型：

tf.nn.softmax_cross_entropy_with_logits(_sentinel=None, labels=None, logits=None, dim=-1, name=None)

注意：

1、这个操作的输入logits是未经缩放的，该操作内部会对logits使用softmax操作。
2、参数labels,logits必须有相同的形状 [batch_size, num_classes] 和相同的类型。
3、求交叉熵的公式中常常使用的是以2为底的log函数，这一点便于我们验证

验证程序：

import tensorflow as tf 
labels = [[0.2,0.3,0.5],
          [0.1,0.6,0.3]] 
logits = [[2,0.5,1],
          [0.1,1,3]] 
logits_scaled = tf.nn.softmax(logits) 
result1 = tf.nn.softmax_cross_entropy_with_logits(labels=labels, logits=logits) 
result2 = -tf.reduce_mean(labels*tf.log(logits_scaled),0)### 0表示列上行动，加和或者求平均值
b=labels*tf.log(logits_scaled)
a=tf.log(logits_scaled)###这个表示以2为底的log()
result3 = tf.nn.softmax_cross_entropy_with_logits(labels=labels, logits=logits_scaled) 
with tf.Session() as sess: 
    print