【炼丹术】——Focal Loss的理解

1. 前言

Focal Loss最初是由Kaiming大神在Focal Loss for Dense Object Detection一文中提出的，旨在解决目标检测中的数据类别不平衡造成的模型性能问题，也常用于NLP领域。

本质上，Focal Loss是解决分类问题中类别不均衡、分类难度差异的一个损失函数。

2. 细节

2.1 交叉熵损失函数

$$CE(p,y)=\{\begin{array}{c}-log(p),y=1\\ -log(1-p),y=otherwise\end{array}$$
令：
$$p_t=\{\begin{array}{c}p,y=1\\ 1-p,y=otherwise\end{array}$$
所以：
$$CE(p,y)=$$