Focal Loss 反向求导及darknet上的实现
Focal Loss 可以解决不平衡分类问题,是在交叉熵损失函数上的扩展。详见,论文:Focal Loss for Dense Object Detection。
该文,主要推导FL在softmax函数下的求导,以及记录在darknet上的实现。
FL损失函数如下:
FL(pt)=−α(1−pt)γlog(pt)FL(pt)=−α(1−pt)γlog(pt)
其中 ptpt 为:
pt={
p, 1−p,if y==1 otherwise pt={
p,if y==1 1−p,otherwise
softmax公式:
pi=exi∑ekpi=exi∑ek
我们的目标得到x对FL的导数:
dFLdxi=dFLdpi∗dpidxidFLdxi=dFLdpi∗dpidxi
又,
dFLd