关于focal loss和分类任务中的hard negative（positive）mining

最新推荐文章于 2025-11-25 13:01:04 发布
原创 最新推荐文章于 2025-11-25 13:01:04 发布 · 4k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#hard negative mining #focal loss #object tracking #object detection

本文探讨了深度学习中解决类别不平衡问题的策略，特别是针对目标检测和跟踪任务。focal loss作为一种hard sample mining技术，通过调整样本权重，解决了在交叉熵损失函数中hard samples被easy samples淹没的问题。focal loss通过引入调节因子，对困难负样本赋予更大权重，从而提高分类器的性能。此外，文章引用了多个跟踪和检测领域的研究，进一步阐述了focal loss在实际应用中的作用。

深度学习，数据是关键。

在训练一个分类器的时候，对数据的要求是class balance，即不同标签的样本量都要充足且相仿。然而，这个要求在现实应用中往往很难得到保证。

下面我以基于检测的单目标跟踪举例分析这个问题。

visual object tracking是在一段视频中跟踪一个特定目标。常见的方法有one-stage regression（比如correlation filter tracking）和two-stage classifcation tracking。这里我们只关注后者。two stages分别是首先在上一帧视频中目标的跟踪位置周围采样得到一堆target candidates（这与two-stageRCNN系列检测器的proposal生成是一样的意思）；在第二个stage，就要使用训练所得的一个classfier来进行前景or背景的而分类。

训练这个第二stage中的classfier就面临这class imbalance的问题（在two-stage检测器中同理。这就可以推广为，凡是在一个estimated bounding box周围随机采集正负样本bounding box时，都会有imbalance的问题。），即严格意义上的正样本只有一个，即the estimated bounding box，而负样本则可以是这一帧图像上除了正样本bbox之外的所有bbox。为了放宽这一要求，采用bbox IoU thresholding的方法来使得那些与正样本bbox overlap足够大的bbox也被认定为是正样本呢，多么无奈的妥协。但即便是这样，依旧存在严重的imbalance。

为了解决这种imbalance，在训练一个分类器（用cross-entropy loss）的时候，就需要设计一些hard （postive/negative）samples mining [1-5]

最低0.47元/天 解锁文章
hard_negative_mining
jacke121的专栏
02-01 2658
hard_negative_mining yuanwen:https://blog.youkuaiyun.com/qq_36570733/article/details/83444245 本篇总结了一下知乎上的回答，原文链接：https://www.zhihu.com/question/46292829 在目标检测中我们会事先标记好ground_truth，接下来在图片中随机提取一系列sample，与g...
论文笔记 Bootstrapping Face Detection with Hard Negative Examples
xiaoxiang_AQ 的博客
08-26 4781
来自小米研究院的文章。主要介绍了一种优秀的人脸检测技术：采用hard negative mining想法，反复通过背景得到的hard negatives，对Faster RCNN的人脸检测算子进行更新。通过FDDB数据集的验证，该方法效果显著。 Related Work： Hard Negative Mining 开始是用在选择function approximation learni
【hard example mining】Focal Loss for Dense Object Detection
晓峰博客笔记
10-25 376
亮点：解决类别不平衡问题 解决方案：Focal Loss 作者提出一种新的损失函数，思路是希望那些hard examples对损失的贡献变大，使网络更倾向于从这些样本上学习。 参考：https://blog.youkuaiyun.com/qq_34564947/article/details/77200104            https://blog.youkuaiyun.com/u014380165/ar...
循环神经网络详解（四）：BiGRU - 双向的智慧
最新发布
limenga102的专栏
11-25 866
认知的完整性： 通过双向视角获得对序列的全面理解。实践的有效性： 在需要完整上下文的任务中显著提升性能。架构的优雅性： 简单而强大的组合方式。从简单开始：先尝试单层BiGRU，根据需要增加复杂度平衡计算成本：在性能和效率之间找到合适的平衡点监控双向学习：确保前向和后向GRU都在有效学习合理正则化：使用Dropout防止过拟合，特别是深层BiGRU利用预训练：在相关任务上使用预训练的词嵌入BiGRU代表了循环神经网络发展的重要方向——通过双向思维获得更深入的理解。
什么是hard negative mining
热门推荐
来自外星系的研究生
09-06 2万+
最近一直在看关于CNN的目标检测和跟踪的文章，在这中间会经常看到hard negative mining这个名词，把这个大概解释一下： 假设给你一堆包含一个或多个人物的图片，并且每一个人都给你一个bounding box做标记，如果要训练一个分类器去做分类的话，你的分类器需要既包含正训练样本（人）和负训练样本（背景）。 你通过观察bounding box去创建一个有用的正训练样本，那么怎么做才
hard negative mining
阿文
02-22 596
目前在看visual tracking相关的论文，有的论文中会用到hard negative mining技术，hard negative mining是什么意思呢？ 训练时有positive 样本和negative 样本，但在训练过程中大多数的negative examples 是没有用的或者说用处不大。negative 样本分为不包含目标的样本、包含部分目标的样本，也就是容易判别/不容易判别...
【笔记】 Hard negative：区域建议框中得分较高的False Positive（假阳性）
nyist_yangguang的博客
07-12 561
对于目标检测中我们会事先标记处ground truth，然后再算法中会生成一系列proposal，这些proposal有跟标记的ground truth重合的也有没重合的，那么重合度（IOU）超过一定阈值（通常0.5）的则认定为是正样本，以下的则是负样本。然后扔进网络中训练。However，这也许会出现一个问题那就是正样本的数量远远小于负样本，这样训练出来的分类器的效果总是有限的，会出现许多false positive，把其中得分较高的这些false positive当做所谓的Hard negative，既
focal loss和OHEM(on-line hard example mining)如何应用到faster RCNN中
WYXHAHAHA123的博客
02-25 5788
在物体检测问题中，主要分为两类检测器模型：one stage detector（SSD,YOLO系列，retinanet）和two stage detector（faster RCNN系列及其改进模型），然而无论是一个阶段的检测器还是两个阶段的检测器，都使用到了anchor机制，即在特征图上密集地画anchor boxes，根据先验知识设定的IOU阈值将这些anchor划分为正样本和负样本，再对于...
Focal Loss 论文笔记
黑暗星球
12-05 4811
Focal Loss for Dense Object Detection 摘要： 到目前为止（2017年8月），目标检测的最高准确率都由R-CNN的衍生算法（two-stage）引领。在该类算法中，会在稀疏的目标候选位置（可能存在目标的位置）上使用一个分类器。相比之下，one-stage目标检测算法直接对原始图像进行密集的检测，这种算法可能更快，更简单，但准确率却一直没有超过two-stage目...
Hard Mining方法总结
bianlongpeng的博客
05-27 1308
一、相关概念 对于分类来说： 正样本：正确分类出的类别对应的样本 负样本：不是正样本的所有样本 难分正样本（hard positives）:错分成负样本的正样本，也可以是训练过程中损失最高的正样本 难分负样本（hard negatives）:错分成正样本的负样本，也可以是训练过程中损失最高的负样本 易分正样本（easy positive）：容易正确分类的正样本，该类的概率最高。也可以是训练过程中损失最低的正样本 易分负样本（easy negatives）：容易正确分类的负样本，该类的概率最高。也可以是训练
如何理解Focal Loss？
My_Communication的博客
12-03 1042
Focal Loss 预科知识点 本处使用英文更加准确，中文过于简洁精炼不利于初学者理解。其实各类专业术语的翻译，只要我们理解其本质，不同的表述都不会影响我们对问题的掌控。有些翻译为晦涩绕口的中文，其实就是这群人过度包装欺骗麻瓜，并以此来显得自己更专业。 1. 目标检测情况下的一些术语 Positive examples 目标分类或者前景信息，如ground-truth。 Negative examples 非目标类或者背景信息，如与ground-truth的IOU值小于给定阈值的anchors。 Eas
Improved Embeddings with Easy Positive Triplet Mining
weixin_44529634的博客
09-09 648
WACV 2020 之前看到很多triplet selection strategy都是基于寻找negative，比如facenet中提出的semi-hard negative（不用hard negative是因为the hardest negative examples leads to bad training behavior）==针对hard negative可以看另外一篇论文：Hard negative examples are hard, but useful. 本文主要是讨论easy posi
关于hard-negative mining
浩瀚之水的专栏
10-16 1475
1. hard-negative mining       negative相对于positive，是相对于正样本来说，不含有目标的负样本。但是，negative包括很多，有完全不包含目标的的，也有部分含有的，也就是容易/不容易被分为负样本的。其中比较容易被判定是负样本（比如全是背景）的对于训练并不能起到很好的监督作用。我们需要找一些难划分的负样本，也就是hard negative，来增强网络的判...
（HEM/OHEM）hard negative（example）mining难例挖掘 与focal loss、GHM损失函数
xys430381_1的专栏
06-18 7582
分类任务中的样本不均衡及hard negative mining的必要性 在训练一个分类器的时候，对数据的要求是class balance，即不同标签的样本量都要充足且相仿。然而，这个要求在现实应用中往往很难得到保证。 在目标检测算法中，对于输入的一张图像，可能会生成成千上万的预选框（region proposal），但是其中只有很少一部分是包含真实目标的，这就带来了类别不均衡问题。 类别不平衡时...
Hard Negative Mining Method
qq_34243847的博客
03-11 1578
Let’s say I give you a bunch of images that contain one or more people, and I give you bounding boxes for each one. Your classifier will need both positive training examples (p...
深度学习之 hard negative mining （难例挖掘）
fenglepeng的博客
06-13 1万+
首先是negative，即负样本，其次是hard，说明是困难样本，也就是说在对负样本分类时候，loss比较大（label与prediction相差较大）的那些样本，也可以说是容易将负样本看成正样本的那些样本，例如roi里没有物体，全是背景，这时候分类器很容易正确分类成背景，这个就叫easy negative；如果roi里有二分之一个物体，标签仍是负样本，这时候分类器就容易把他看成正样本，即假阳性(false positive)，这时候就是had negative。hard negative mining就是
hard-negative mining详细介绍
qq_29462849的博客
03-10 2355
1. hard-negative mining negative相对于positive，是相对于正样本来说，不含有目标的负样本。但是，negative包括很多，有完全不包含目标的，也有部分含有的，也就是容易/不容易被分为负样本的。其中比较容易被判定是负样本（比如全是背景）的对于训练并不能起到很好的监督作用。我们需要找一些难划分的负样本，也就是hard negative，来增强网络的判别性能。 在训...
【深度学习】Hard Negative Mining的理解（带论文重点内容解读）
wzk4869的博客
10-16 5276
【深度学习】Hard Negative Mining的理解（带论文重点内容解读）
rcnn中的Hard negative mining方法
won_t的博客
04-29 490
rcnn中类别判断中分类器对每一类目标，使用一个线性SVM分类器进行判别。输入为深度网络输出的4096维特征，输出是否属于此类。由于负样本很多，使用hard negative mining方法。 关于hard mining，比较生动的例子是高中时期你准备的错题集。错题集不会是每次所有的题目你都往上放。放上去的都是你最没有掌握的那些知识点（错的最厉害的），而这一部分是对你学习最有帮助的。 一、为何难例挖掘？ Why Hard Example Mining 难例挖掘与非极大值抑制 NMS 一样，都是为了.
多分类任务重的Focal Loss
08-07
<think>首先，用户的问题是关于在多分类任务中应用Focal Loss的实现方法和应用场景。用户提供了引用：[^1], [^2], [^3]，这些引用讨论了Focal Loss在二分类和多分类中的应用，以及Quality Focal Loss。 关键点： - 引用[^1]：讨论了TensorFlow 2.0中二分类和多分类Focal Loss的实现，并展示了测试结果。 - 引用[^2]：解释了Focal Loss如何用于多分类任务，强调它处理类别不平衡问题。 - 引用[^3]：介绍了Quality Focal Loss，用于目标检测。 用户的具体需求：在多分类任务中应用Focal Loss，询问实现方法和应用场景。 我的回答需要： 1. 使用中文回答。 2. 结构清晰，帮助用户逐步解决问题。 3. 确保回答真实可靠。 4. 遵循系统级指令：行内数学表达式用$...$，独立公式用$$...$$单独成段，LaTeX语法正确。 5. 在回答中引用的段落末尾自然地添加引用标识，例如[^1]。 6. 生成相关问题。 回答结构： - 先解释Focal Loss是什么。 - 然后讨论在多分类任务中的实现方法。 - 接着描述应用场景。 - 最后生成相关问题。 实现方法： - 基于引用[^2]，Focal Loss通过减少容易样本的损失权重，专注于难分类样本。 - 数学公式：对于二分类，Focal Loss定义为$FL(p_t) = -\alpha_t (1 - p_t)^\gamma \log(p_t)$，其中$p_t$是预测概率。 - 对于多分类，通常使用Softmax和交叉熵的扩展。多分类Focal Loss可以定义为$FL = -\sum_{c=1}^{C} \alpha_c (1 - p_c)^\gamma y_c \log(p_c)$，其中$C$是类别数，$y_c$是one-hot标签，$p_c$是预测概率。 应用场景： - 类别不平衡问题，如引用[^2]所述。 - 例如，在文本分类、图像分类中，当某些类别样本很少时。 生成相关问题： - 基于用户的问题，生成2-3个相关问题。 引用标识： - 当引用参考内容时，在末尾添加[^1], [^2], [^3]。 - 例如，提到处理类别不平衡时，引用[^2]。 完整回答大纲： 1. **引言**：简要介绍Focal Loss及其在多分类中的重要性。 2. **Focal Loss的原理**：解释数学公式，使用独立公式块。 3. **多分类Focal Loss的实现方法**： - 在TensorFlow或PyTorch中的实现。 - 参考引用[^1]的实现。 4. **应用场景**： - 类别不平衡问题。 - 具体例子。 5. **总结**。 6. **相关问题**。 确保LaTeX正确： - 行内：$...$ - 独立：$$...$$ 例如： - 行内：$p_t$ 表示预测概率。 - 独立公式： $$FL = -\sum_{c=1}^{C} \alpha_c (1 - p_c)^\gamma y_c \log(p_c)$$ 现在，撰写回答。</think>### 多分类任务中Focal Loss的实现方法和应用场景 在多分类任务中，Focal Loss 是一种高效的损失函数，专门用于解决类别不平衡问题。它通过减少容易分类样本的损失权重，迫使模型更关注难分类样本，从而提升模型在少数类上的性能[^2]。下面我将逐步解释Focal Loss的原理、实现方法以及应用场景，确保回答清晰可靠。 #### 1. **Focal Loss的原理** Focal Loss 基于标准交叉熵损失进行改进。在二分类任务中，其公式定义为： $$FL(p_t) = -\alpha_t (1 - p_t)^\gamma \log(p_t)$$ 其中： - $p_t$ 是模型对真实类别的预测概率（范围在$[0,1]$）。 - $\alpha_t$ 是类别权重因子，用于平衡正负样本（例如，少数类设置较高的$\alpha$）。 - $\gamma$ 是聚焦参数（通常$\gamma \geq 0$），用于调节难易样本的权重：当$\gamma > 0$时，容易样本（$p_t$接近1）的损失被降低，难样本（$p_t$接近0）的损失被放大。 在多分类任务中（类别数$C \geq 2$），Focal Loss 扩展为： $$FL = -\sum_{c=1}^{C} \alpha_c (1 - p_c)^\gamma y_c \log(p_c)$$ 其中： - $y_c$ 是one-hot编码的真实标签（如果类别$c$是真实类别，则$y_c=1$，否则为0）。 - $p_c$ 是模型对类别$c$的预测概率（通过Softmax函数输出）。 - $\alpha_c$ 是每个类别的权重，通常根据类别频率设置（例如，样本少的类别设置更高的$\alpha$）。 - $\gamma$ 的值通常取2.0，但需根据任务调整。 这种设计使模型在训练时更关注预测概率低的样本（即难分类样本），从而缓解类别不平衡带来的偏差[^2]。 #### 2. **多分类Focal Loss的实现方法** 在深度学习框架中（如TensorFlow或PyTorch），实现多分类Focal Loss相对简单。以下是基于TensorFlow 2.0的实现步骤（参考引用[^1]），并附上代码示例。关键点包括： - **预处理**：确保输入是one-hot标签和Softmax输出。 - **参数设置**：$\alpha_c$ 可通过类别频率计算（例如，$\alpha_c = 1 / \text{freq}_c$），$\gamma$ 通常设为2.0。 - **代码实现**：使用TensorFlow的Keras API。 ```python import tensorflow as tf from tensorflow.keras.losses import Loss class MultiClassFocalLoss(Loss): def __init__(self, alpha=None, gamma=2.0, reduction='sum_over_batch_size'): super().__init__(reduction=reduction) self.alpha = alpha # 类别权重列表，如[0.1, 0.9]表示两类权重 self.gamma = gamma # 聚焦参数，默认为2.0 def call(self, y_true, y_pred): # y_true: one-hot标签, shape=(batch_size, C) # y_pred: Softmax输出, shape=(batch_size, C) epsilon = tf.keras.backend.epsilon() # 防止log(0)错误 y_pred = tf.clip_by_value(y_pred, epsilon, 1 - epsilon) # 裁剪预测值 # 计算每个样本的损失 cross_entropy = -y_true * tf.math.log(y_pred) # 标准交叉熵部分 focal_factor = tf.pow(1 - y_pred, self.gamma) # (1 - p_c)^γ # 应用Focal Loss权重 focal_loss = focal_factor * cross_entropy # 应用类别权重alpha_c if self.alpha is not None: alpha = tf.convert_to_tensor(self.alpha, dtype=tf.float32) focal_loss = alpha * focal_loss # 求和得到总损失 return tf.reduce_sum(focal_loss, axis=-1) # 使用示例 # 假设类别数C=3，alpha=[0.2, 0.3, 0.5]（根据类别不平衡设置） focal_loss = MultiClassFocalLoss(alpha=[0.2, 0.3, 0.5], gamma=2.0) model.compile(optimizer='adam', loss=focal_loss) ``` **实现说明**： - **参数调整**：$\alpha_c$ 应根据训练数据的类别分布设置（例如，使用sklearn计算类别频率）。$\gamma$ 的值可通过实验调整：增大$\gamma$ 会更多关注难样本，但可能过拟合。 - **框架兼容**：类似代码可移植到PyTorch（使用`torch.nn.Module`）。引用[^1]显示，在文本分类任务中，Focal Loss能提升少数类的准确率。 - **注意事项**：确保模型输出层使用Softmax激活。在训练初期，Focal Loss可能较高，建议使用较小的学习率。 #### 3. **应用场景** Focal Loss 特别适用于类别不平衡的多分类任务，其中某些类别样本极少。常见应用场景包括： - **文本分类**：例如，新闻主题分类中，某些主题（如“科技”）样本远少于其他（如“体育”）。Focal Loss 能减少多数类的过度拟合，提升少数类的召回率[^1]。 - **图像分类**：在医学图像识别中，罕见疾病类别样本少，Focal Loss 可帮助模型更关注这些难分类样本。 - **目标检测**：虽然引用[^3]提到的Quality Focal Loss (QFL) 专用于检测框质量评估，但标准Focal Loss也可用于多类别物体检测（如COCO数据集），其中背景类样本远多于前景类。 - **其他场景**：任何长尾分布的数据集（如推荐系统用户行为分类），Focal Loss 都能替代标准交叉熵损失。 **优势**：Focal Loss 通过$\gamma$参数动态调整样本权重，无需复杂重采样，计算效率高。引用[^2]强调，它在正负样本分布严重不均衡时效果显著。 #### 总结 在多分类任务中应用Focal Loss，核心是正确实现损失函数并调整$\alpha_c$和$\gamma$参数。它能有效缓解类别不平衡问题，提升模型在难样本上的性能。实际应用中，建议先用小规模数据实验参数（如$\gamma$从1.0到3.0），再结合交叉验证评估效果[^1][^2]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值