CE Loss与BCE Loss的区别

引言

• 该文只是简单为本人学习交叉熵损失函数以及focal loss等相关问题的一个补充，所以介绍的不够全面，待后续持续补充

一句话概括就是：

BCE用于“是不是”问题，例如LR输出概率，明天下雨or不下雨的概率；CE用于“是哪个”问题，比如多分类问题。

BCE与CE表达形式：

BCE：BCE+sigmoid

• sigmoid一般用于二分类问题,下方y^即为sigmoid形式(单个样本)
  $$\hat{y}=\frac{1}{1+e^{-Z}}\text{\hspace{1em}(1.1)}$$
  Z = w x (1.2) Z = wx\tag{1.2}