何恺明大神的「Focal Loss」，如何更好地理解？

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 100+累计阅读 167平均单平台已同步平台优快云微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄19年

关注

转载最新推荐文章于 2026-09-25 12:55:19 发布 167 阅读 AI 写同款· GEO 优化 ›

Focal Loss损失函数 Focal loss是一个常用的解决类别不平衡问题的损失函数，由何恺明提出的（论文名称：Focal Loss for Dense Object Detection），用于图像领域解决one-stage目标检测中正负样本极不平衡和难分类样本学习问题。本文从交叉熵损失函数出发，分析样本不平衡问题，将focal loss与交叉熵损失函数对比，给出focal loss有效性的解释。阅读详情

何恺明大神的「Focal Loss」，如何更好地理解？ - 知乎

收录于

NLP

当前文章被收录于：

NLP

247 篇文章 4 人学习

订阅专栏查看详情

当前文章被以下社区和专栏收录：

标签

#html

原文链接：https://zhuanlan.zhihu.com/p/32423092>

【原创】正负例样本失衡及focal loss 前段时间在解决分类任务时，发现当正负例比例相差较大时，分类算法更倾向于优化比例较大的类别的loss，最终导致正负例上的正确率有极大悬殊。这其实是做分类任务时经常遇到的问题，即正负例比例不均衡，解决此类问题的办法除了较常用的over-samping/under-sampling之外，还有一类方法是修改loss函数，使其能更均衡的去学习正负样本。比较容易想到的方法是直接对正负样本的loss加上不同... 阅读详情

相关推荐

深度学习损失函数全解析：从MSE到Focal Loss的19种选择与实战指南

在机器学习与深度学习领域，损失函数是模型训练的基石，它定义了模型预测与真实目标之间的差距度量标准。其核心原理是通过量化误差，为优化算法（如梯度下降）提供反向传播的梯度信号，从而指导模型参数更新。理解并选择合适的损失函数具有极高的技术价值，它直接决定了模型的学习方向、收敛速度、鲁棒性以及最终性能。从基础的回归任务（如房价预测）到复杂的分类、分割、生成任务，不同的应用场景对误差的敏感度和度量方式有着截然不同的要求。例如，在回归任务中，**均方误差（MSE）** 对异常值敏感，而**平均绝对误差（MAE）** 则

weixin_30645617的博客 414

Focal Loss论文解读和调参教程

本文是何恺明团队ICCV 2017的一篇文章，主要针对检测场景类别不均衡导致一阶段算法没有二阶段算法精度高，在CE loss的基础上进行改进，提出了Focal Loss，并且本文改动了faster rcnn，魔改成了一个一阶段的算法RetinaNet，也是后续很多工作拿来当baseline的anchor-based一阶段算法。

jiangqixing0728的博客 5796

深度学习损失函数全解析：从MSE到Focal Loss的实战指南

损失函数是机器学习与深度学习中的核心概念，它作为模型预测与真实标签之间差异的量化度量，直接决定了模型的优化方向。其设计原理根植于概率论与优化理论，通过定义不同的“距离”或“差异”计算方式，引导模型参数向目标收敛。在技术价值上，合适的损失函数不仅能提升模型性能，还能解决类别不平衡、异常值敏感等工程难题。例如，交叉熵损失是分类任务的基石，而焦点损失则通过调制因子有效缓解了样本不平衡问题，让模型更专注于难分样本。在实际应用场景中，回归任务常用均方误差（MSE）或平均绝对误差（MAE），图像分割则常采用Dice损失