Pytorch详解BCELoss和BCEWithLogitsLoss

最新推荐文章于 2025-07-15 19:48:24 发布

原创最新推荐文章于 2025-07-15 19:48:24 发布 · 10w+ 阅读

509

628 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #PyTorch #Loss #多标签分类

深度学习同时被 3 个专栏收录

6 篇文章

订阅专栏

PyTorch

5 篇文章

订阅专栏

Loss

2 篇文章

订阅专栏

本文深入解析BCELoss在图片多标签分类任务中的应用，通过具体实例详细展示了损失函数的计算过程，包括Sigmoid激活函数的作用及BCELoss公式解释。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

BCELoss

在图片多标签分类时，如果3张图片分3类，会输出一个3*3的矩阵。

在这里插入图片描述

先用Sigmoid给这些值都搞到0~1之间：

在这里插入图片描述

假设Target是：

在这里插入图片描述

BCELoss是 $−1n∑(yn×ln⁡xn+(1−yn)×ln⁡(1−xn))-\frac 1 n\sum(y_n \times \ln x_n+(1-y_n) \times \ln(1-x_n))$
其中y是target，x是模型输出的值。
所以对于第一行：
第一列 $\times \ln 0.3992+ (1-0) \times \ln (1-0.3992)=-0.5095$
第二列 $\times \ln 0.2232+ (1-1) \times \ln (1-0.2232)=-1.4997$
第三列 $\times \ln 0.6435+ (1-1) \times \ln (1-0.6435)=-0.4408$
第二行：
第一列 $\times \ln 0.3800+ (1-0) \times \ln (1-0.3800)=-0.4780$
第二列 $\times \ln 0.3044+ (1-0) \times \ln (1-0.3044)=-0.3630$
第三列 $\times \ln 0.3241+ (1-1) \times \ln (1-0.3241)=-1.1267$
第三行：
第一列 $\times \ln 0.6281+ (1-1) \times \ln (1-0.6281)=-0.4651$
第二列 $\times \ln 0.4689+ (1-0) \times \ln (1-0.4689)=-0.6328$
第三列 $\times \ln 0.3834+ (1-1) \times \ln (1-0.3834)=-0.9587$
去掉负号求个均值：
$0.5095+1.4997+0.44083=0.8167\frac {0.5095+1.4997+0.4408} {3} = 0.8167$
$0.4780+0.3630+1.12673=0.6559\frac {0.4780+0.3630+1.1267} {3} = 0.6559$
$0.4651+0.6328+0.95873=0.6855\frac {0.4651+0.6328+0.9587} {3} = 0.6855$
再取个平均：
$0.8167+0.6559+0.68553=0.7194\frac {0.8167+0.6559+0.6855} {3} = 0.7194$
下面我们用BCELoss来验证一下Loss是不是0.7194！