【极简笔记】Focal Loss

最新推荐文章于 2025-06-22 09:55:10 发布
原创 最新推荐文章于 2025-06-22 09:55:10 发布 · 1.9k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

Focal Loss是为了解决目标检测中正负样本比例严重失衡的问题而提出的，它通过调整不同难度样本的权重，使难例损失主导训练过程，从而提高训练效率。相较于Online Hard Example Mining (OHEM)，Focal Loss仍保留易例样本，且实验表明在RetinaNet等one-stage模型中应用Focal Loss能取得更好的效果，并且模型初始化时采用一定的技巧如设置小的先验概率π=0.01，可以增强训练稳定性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

【极简笔记】Focal Loss

Focal Loss for Dense Object Detection

文章的核心就是提出了focal loss用来取代原有的cross entropy loss

pt={ p,1−p,if y=1otherwise p t = { p , if  y = 1 1 − p , otherwise

最低0.47元/天 解锁文章

200万优质内容无限畅学
『NLP学习笔记』Cross Entropy Loss 的硬截断、软化到 Focal Loss
AI新视界
04-12 1831
对于二分类模型，我们总希望模型能够给正样本输出 1，负样本输出 0，但限于模型的拟合能力等问题，一般来说做不到这一点。而事实上在预测中，我们也是认为大于 0.5 的就是正样本了，小于 0.5 的就是负样本。这样就意味着，我们可以 “有选择” 地更新模型，比如，设定一个阈值为 0.6，那么模型对某个正样本的输出大于 0.6，我就不根据这个样本来更新模型了，模型对某个负样本的输出小于 0.4，我也不根据这个样本来更新模型了，只有在 0.4~0.6 之间的，才让模型更新，这时候模型会更 “集中精力” 去关心那些
目标检测的Tricks | 【Trick3】IoU loss与focal loss（包含一些变体介绍）
Clichong
04-17 3052
如有错误，恳请指出。 这里介绍一下IoU loss与focal loss函数，之前的文章也有提及到，这里就不再过多的细说了。简单来说： IoU loss：用来计算pred box与ground true之间的差异，用来边界框损失函数的计算； focal loss：用来平衡正负样本不均衡的问题，由RetinaNet提出使用与One-Step目标检测算法上的一个技巧 关于这两部分的详细介绍可以见之前的博文：YOLOv4中的tricks概念总结——Bag of freebies 然后，后续有不少大佬对fo.
Focal Loss
lynne233
03-23 341
Focal Loss是在论文Focal Loss for Dense Object Detection中提到，主要是为了解决one-stage目标检测中样本不均衡的问题。因为最近工作中也遇到了样本不均衡的问题，但是因为是多分类问题，Focal loss和网上提供的实现大都是针对二分类的，所以阅读论文。本文我将解释论文中的内容以及自己的理解，同时文末会提供Focal loss针对多分类的实现。 ...
​​Focal Loss：类别不平衡的引力透镜——让模型聚焦难样本的损失函数革命​
最新发布
qq_43664407的博客
06-22 863
当天文学家使用Focal Loss分析哈勃深空图像时，在原本被判定为"空"的区域发现了12个新的引力透镜星系——这些星系因前景星系团的引力透镜效应而被扭曲隐藏。Focal Loss的样本聚焦能力，恰如宇宙引力透镜般揭示了隐藏的宇宙结构。Focal Loss的伟大不仅在于技术突破，而在于重新定义了模型学习的认知方式：​​重要的不是多数样本的共识，而是关键样本的启示​​。从显微镜下的癌细胞到金融交易中的欺诈信号，从宇宙深空的暗物质到生产线上的微小缺陷，Focal Loss让模型学会"聚焦要旨"的认知能力。
Focal loss
yunxinan的专栏
04-16 278
focal loss alpha = 0.25 gamma = 2 alpha_factor = keras.backend.ones_like(object_mask) * alpha alpha_factor = tf.where( keras.backend.equal(object_mask, 1), alpha_factor, 1 - alpha_...
极简笔记 v1.3.8官方版
01-04
为您提供极简笔记下载，极简笔记是一款现代化的Markdown笔记软件，能够在Windows、Linux、Mac系统、iPhone以及安卓平台进行数据同步。功能介绍　基本的Markdown语法，支持标题斜体加粗，支持数学公式，支持代码高亮...
Focal Loss 论文笔记
黑暗星球
12-05 4759
Focal Loss for Dense Object Detection 摘要： 到目前为止（2017年8月），目标检测的最高准确率都由R-CNN的衍生算法（two-stage）引领。在该类算法中，会在稀疏的目标候选位置（可能存在目标的位置）上使用一个分类器。相比之下，one-stage目标检测算法直接对原始图像进行密集的检测，这种算法可能更快，更简单，但准确率却一直没有超过two-stage目...
Focal Loss理解
weixin_30586257的博客
08-18 2206
1. 总述 Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重，也可理解为一种困难样本挖掘。 2. 损失函数形式 Focal loss是在交叉熵损失函数基础上进行的修改，首先回顾二分类交叉上损失： 是经过激活函数的输出，所以在0-1之间。可见普通的交叉熵对于正样本而言，输出概率越大损失越小。对...
focal loss
01-10
读Focal Loss for Dense Object Detection这篇论文 做的一个总结讲解ppt
focal_loss
weixin_42662358的博客
01-25 634
@Focalloss自我理解 sigmoid交叉熵损失 tensorflow中的 tf.nn.sigmoid_cross_entropy_with_logits()是最开始的基础二分类交叉熵，其中将是该类别的标签为1，不是该类别的标签为0。 one_hot编码表示三分类中的第三个类别为[0,0，1]，sigmoid识别为第三个类别为正样本，其他的类别为负样本。 tensorflow的实现是在原有基...
focal loss 通俗理解
WGS.
11-27 7327
文章目录什么是focal loss？控制正负样本的权重控制容易分类和难分类样本的权重两种权重控制方法合并 关于focal loss如果看过此文还不理解，可以看这篇文章： focal loss 详解，及代码实现 https://blog.youkuaiyun.com/qq_42363032/article/details/121540392 什么是focal loss？ Focal loss是何恺明大神提出的一种新的loss计算方案。 其具有两个重要的特点。 1、控制正负样本的权重 2、控制容易分类和难分类样本的权重
何恺明大神的「Focal Loss」，如何更好地理解？
热门推荐
Paper weekly
12-28 2万+
作者丨苏剑林单位丨广州火焰信息科技有限公司研究方向丨NLP，神经网络个人主页丨kexue.fm前言今天在 QQ 群里的讨论中看到了 Focal Loss，经搜索它是 Kaiming 大神团队在他们的论文 Focal Loss for Dense Object Detection 提出来的损失函数，利用它改善了图像物体检测的效果。不过我很少做图像任务，不怎么关心图像方面的应用。本质上讲，Focal
Focal Loss (聚焦损失) ：解决类别不平衡与难易样本的利器，让模型学会“重点学习”
qq_73704268的博客
03-03 1628
当数据集中某些类别的样本数量远多于其他类别时（例如欺诈检测中正常交易占99%，欺诈交易仅占1%），传统损失函数（如交叉熵）往往会导致模型过度关注"简单样本"（easy examples）而忽视"困难样本"（hard examples）（从图片中找物体）任务中，背景区域（简单样本）远多于目标物体（困难样本），传统方法效果差。第四个样本（预测概率0.11）是容易的负样本 → 损失也被缩小。第二个样本（预测概率0.26）是困难的负样本 → 损失被放大。，用于增强模型对难分类样本的关注，降低易分类样本的影响。
损失函数：Focal Loss
那年聪聪
02-08 1万+
Focal Loss解决两个问题：1> 正负样本不平衡; 2>easy和hard examples不平衡问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值