视觉分类任务中处理不平衡问题的loss比较（OHEM、Focal Loss等介绍的非常好）

最新推荐文章于 2024-12-15 18:25:39 发布
转载 最新推荐文章于 2024-12-15 18:25:39 发布 · 1.8k 阅读 · 0

本文详细介绍了各种类型的损失函数及其优缺点，对于理解机器学习算法中如何评估预测结果与真实值之间的差距至关重要。
【YOLOv11工业级实战】26. Focal Loss+OHEM实战：解决PCB缺陷检测极难样本问题！1000:1比例下召回率提升35%
专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域，希望和大家共同进步！
08-31 873
摘要：本文针对PCB缺陷检测中“极难样本（如0.2mm针孔、模糊微短路）漏检”的核心痛点，提出Focal Loss与在线难样本挖掘（OHEM）结合的工业级方案。传统Focal Loss在1000:1极端样本不平衡下，对极难样本的聚焦能力不足，导致针孔类缺陷召回率仅58.7%；而Focal Loss+OHEM通过“动态筛选前20%高损失样本”强化学习，在PKU-Market-PCB数据集上实现针孔召回率提升至79.2%，整体缺陷召回率从82.3%升至85.1%，同时收敛速度加快35%。
Focal Loss介绍
chase
06-11 2590
Focal Loss介绍
检测模型改进—OHEM与Focal-Loss算法总结
m_buddy的博客
04-05 1万+
1. 概述 论文名称：Training Region-based Object Detectors with Online Hard Example Mining 代码地址：OHEM OHEM（online hard example miniing）算法的核心思想是： 根据输入样本的损失进行筛选，筛选出hard example，表示对分类和检测影响较大的样本，然后将筛选得到的这些样本应用在随机梯度...
OHEM，Batch Hard（识别乱入），Focal Loss
Wayne2019的博客
01-01 5496
一些别人总结的Faster R-CNN后续改进： [目标检测] Faster R-CNN 深入理解 && 改进方法汇总 Faster R-CNN改进篇（一）： ION ● HyperNet ● MS CNNTraining Region-based Object Detectors with Online Hard Example Mining 最好先阅读之前博文： Tensorflow o
Ohem Cross Entropy Loss 详解
最新发布
qq_38412266的博客
12-15 669
OhemCrossEntropyLoss 详解。
样本不均衡
cengjing12的博客
10-18 1841
这里主要介绍CV中的样本不均衡问题（部分方法也适用于ML中）。当前主流的物体检测算法，如Faster RCNN和SSD等，都是将物体检测当做分类问题来考虑，即先使用先验框或者RPN等生成感兴趣的区域，再对该区域进行分类与回归位置。这种基于分类思想的物体检测算法存在样本不均衡的问题，因而会降低模型的训练效率与检测精度。 下面首先分析样本不均衡带来的问题，随后会讲解两种经典的缓解不均衡问题的方法。 1、不均衡问题分析 在当前的物体检测算法中，由于检测算法各不相同，以及数据集之间的差异，可能会存在正负样本、难易样
OhemCrossEntropyLoss（定义、步骤流程、代码实现、OHEM、CE、OHEMCE、OHEMCELoss、OHEMLoss）
Le0v1n 的博客
08-15 3326
Ohem CE Loss（定义、步骤流程、代码实现、OHEM、CE、OHEMCE、OHEMCELoss、OHEMLoss）
视觉分类任务中处理不平衡问题的loss比较
Daniel2333的博客
10-24 2万+
问题介绍 在计算机视觉（CV）任务里常常会碰到类别不平衡的问题， 例如： 1. 图片分类任务，有的类别图片多，有的类别图片少 2. 检测任务。现在的检测方法如SSD和RCNN系列，都使用anchor机制。 训练时正负anchor的比例很悬殊. 3. 分割任务， 背景像素数量通常远大于前景像素。 从实质上来讲， 它们可以归类成分类问题中的类别不平衡问题：对图片/anchor/像素的分类
目标检测中的样本不平衡处理方法——OHEM, Focal Loss, GHM, PISA
u014630987的博客
07-20 7899
1. 前言 目前。计算机视觉中的性能最好的目标检测方法主要分为两种: one-stage 和two-stage 方法。two-stage方法分为两步，第一步为候选区域生成阶段(Proposal stage),通过如Selective Search、EdgeBoxes等方法可以生成数量相对较小候选目标检测框；第二步为分类与回归阶段，对第一阶段生成的 Candiate Proposal 进行分类和位置...
【目标检测——OHEM 解读】处理类别不平衡问题
m0_61139217的博客
11-06 2695
之前做个一个目标检测任务，每个类别之间的数据量差距较大，有明显的类别不均衡现象（当样本比例大于4：1时）。对于目标检测，可以使用OHEM技术进行扩大数据广度。使用基于交叉熵损失改进的Focal Loss损失函数。对类别多的数据类别进行欠采样（减少一些重复的数据）。对于类别较少的数据使用过采样，通过数据增广（色彩变换，仿射变换等）进行扩充。本篇博客主要会记录在研究OHEM技术时的一些总结。
OhemCELoss用于图像分割的OHEM交叉熵损失函数
weixin_40198079的博客
12-05 1522
OhemCELoss（Online Hard Example Mining Cross Entropy Loss）是一种在深度学习模型训练中应对类别不平衡问题的损失函数，通过在线困难样本挖掘（Online Hard Example Mining，OHEM）的策略来关注那些难以分类的样本，以增强模型对困难样本的学习效果。在图像分割问题中，以每个 pixel 的损失为最小单元，而不是 batch 中每张图片。
OHEM 笔记
weixin_42102248的博客
10-22 455
说明 1.本文是博主的学习记录，主要为了方便以后查看，当然如果能为别人提供帮助就更好了，如果有不对的地方请指正 2.本文重点是了解OHEM算法以及它与hard negative mining的异同点，尽量用较少篇幅表达清楚论文整体思路，其他一些不影响理解论文算法的东西有需要的请查看其他博客 3.论文中的链接是我经过大量搜索，个人认为讲解最清楚的参考，看本文的过程中如对一些名词有疑惑可以直接点击参考...
OHEM
weixin_33739523的博客
05-08 907
Training Region-based Object Detectors with Online Hard Example Mining00 Astract摘要主要讲了四点：(1) 训练过程需要进行参数的空间搜索(2) 简单样本与难分辨样本之间的类别不平衡是亟需解决的问题(3) 自动地选择难分辨样本来进行训练不仅效率高而且性能好(4) 提出了OHEM算法，不仅效率高而且性能好，在各种数据集上表...
【损失函数】图像分割损失CELoss中添加 OHEM
豆芽菜
10-12 2743
语义分割中常用交叉熵损失CE，在应用中通常添加OHEM以获取更好的收敛（经验阈值是0.7），这里OHEM思想的来源是topk loss。
目标检测学习笔记——OHEM和focal loss
phily123的博客
12-01 2063
OHEM(online hard example mining)和focal loss可以解决困难样本和简单样本不平衡的问题 OHEM通过选择损失较大的候选ROI解决困难样本和简单样本不平衡的问题，原论文是用fast rcnn做实验的。 OHEM论文解读 focal loss和ohem 关于目标检测不平衡问题的一些工作 ...
目标检测之Focal Loss（Retinanet）
molihong28的博客
05-18 1383
我们都知道二阶段的检测精度较高、但是速度慢；一阶段的检测检测精度低但是速度快。Focal Loss的设计目的就是让一阶段有二阶段的精度但是保持速度。 一阶段检测器精度低主要是由于正负样本失衡（而TP,FP又可以分为四种），刚开始一阶段直接就是以IOU为衡量标准去选择TP、FP,这样会引发： 1、neg太多以至淹没pos 2、neg大多是易分的 易分负样本反向梯度小，对模型训练作用小 二阶段为什么好...
Focal loss
m0_54146002的博客
09-27 2431
一张图像中能够匹配到目标的候选框（正样本）个数一般只有十几个活几十个。而没有匹配到的候选框（负样本）大概有10000 - 100000个。在这10000 - 100000个未匹配的候选框中大部分都是简单易分的负样本（对训练网络起不到什么作用，但由于数量太多淹没掉少量但有助于训练的样本） OHEM 是使用正负样本选取的结果，最后一行是Focal loss的结果，可以看到效果还是不错的。 focal loss 的设计是为了去应对one stage目标检测里面正负样本极度不平衡的情况（前景和背景极..
Focal Loss的理解以及在多分类任务上的使用(Pytorch)
热门推荐
zhaoguanhua的博客
12-17 4万+
理解关键点一 二分类和多分类的交叉熵的区别 二分类交叉熵 多分类交叉熵 理解关键点二 多分类和二分类focal loss 理解关键点三 alpha到底该如何设置
Focal Loss理解
何进的博客
09-07 905
1. 总述 Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重，也可理解为一种困难样本挖掘。 2. 损失函数形式 Focal loss是在交叉熵损失函数基础上进行的修改，首先回顾二分类交叉上损失： 是经过激活函数的输出，所以在0-1之间。可见普通的交叉熵对于正样本而言，输出概率越大损失越小。对...
PyTorch实现的深度学习常用loss函数汇总
5. dual-focal-loss（双焦点损失）：是焦点损失的改进版本，用于进一步提高类别不平衡问题的处理能力。 6. triplet-loss（三元组损失）：通常用于度量学习，特别是在人脸验证或个人身份验证中，通过最小化正样本对的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值