Focal Loss 非常简单有效，没有花里胡哨

原创 已于 2025-05-21 23:41:27 修改 · 755 阅读 · 19 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#focal loss #数据不平衡

于 2024-06-15 21:38:46 首次发布

🐧大模型系列篇章

💖 多模态大模型 🔎 GroundingDINO 论文总结
💖 端到端目标检测 🔎 从DETR 到 GroundingDINO 🔥
💖 多模态大模型 👉 CLIP论文总结
💖 多模态大模型 👉 EVA-CLIP
💚 生成模型 👉 从 VAE 到 Diffusion Model （上）
💚 生成模型 👉 从 VAE 到 Diffusion Model （下）🔥
💧 天气大模型

🐧深度学习基础知识篇

💖 深度学习基础知识干货 🔎 Batch Normalization 批量归一化
💖 深度学习基础知识干货 🔎 卷积模型的Memory, Params, Flop是如何计算的?

最低0.47元/天 解锁文章
损失函数解读 之 Focal Loss
黎国溥
01-24 2万+
前言 Focal loss 是一个在目标检测领域常用的损失函数，它是何凯明大佬在RetinaNet网络中提出的，解决了目标检测中正负样本极不平衡和 难分类样本学习的问题。 论文名称：Focal Loss for Dense Object Detection 目录 什么是正负样本极不平衡？ two-stage 样本不平衡问题 one-stage 样本不平衡问题 交叉熵 损失函数 Focal Loss 代码实现Pytorch 什么是正负样本极不平衡？ 目标检测算法为了定位目标会...
Focal-loss & QFocal-Loss
@木子李的博客
11-12 4220
Focal-loss是交叉熵损失的变体，如下图所示 通过实验发现，即使是easy examples(Pt >> 0.5)，它的loss也很高，所以当这种样本的数量较多的时候，累计起来就会比较大了，甚至会超过那些概率较小的样本（hard example），导致对于那些hard example的学习效果不佳，这也就是为什么正负样本不均衡会导致学习效果不佳，太多的简单样本，累加起来，会产生较大的影响，量变产生质变。如下图蓝线 https://blog.youkuaiyun.com/qq_36584673/a
focal loss
01-10
读Focal Loss for Dense Object Detection这篇论文 做的一个总结讲解ppt
Focal loss
m0_54146002的博客
09-27 2427
一张图像中能够匹配到目标的候选框（正样本）个数一般只有十几个活几十个。而没有匹配到的候选框（负样本）大概有10000 - 100000个。在这10000 - 100000个未匹配的候选框中大部分都是简单易分的负样本（对训练网络起不到什么作用，但由于数量太多淹没掉少量但有助于训练的样本） OHEM 是使用正负样本选取的结果，最后一行是Focal loss的结果，可以看到效果还是不错的。 focal loss 的设计是为了去应对one stage目标检测里面正负样本极度不平衡的情况（前景和背景极..
常用损失函数(一)：Focal Loss
Mike_honor的博客
07-11 5148
Focal Loss原理及代码实现
Focal Loss：类别不平衡的解决方案
WeLearnNLP
03-16 2759
在目标检测领域，常常使用交叉熵损失函数来进行训练，然而交叉熵损失函数有一个缺陷，就是难以处理类别不平衡的情况。这个问题在实际应用中很常见，例如在肿瘤检测中，正常样本往往比肿瘤样本多得多，如果不采取措施，模型就会倾向于将所有样本都预测为正常。为了解决这个问题，何恺明提出了一种新型的目标检测损失函数——Focal Loss。
[机器学习] focal loss：解决样本不平衡的一种通用方案
真理无穷，进一步有进一步的欢喜
03-08 5526
文章目录focal loss 提出的场景和针对的问题focal loss 提出的场景：目标检测focal loss 针对的问题：类别不平衡如何处理目标检测下的类别不平衡如何理解目标检测场景下的样本和类别two-stageone-stagefocal loss的算法focal loss的思想focal loss的局限假设的局限在这里插入图片描述适用场景的局限focal loss用于图像分类 foca...
YOLOv5-6.x源码分析（八）---- loss.py
JehanRio's Private Blog
04-29 2454
今天是23-04-28，周五，因为要放五一节，就回家了。回家还是很chill的，就是效率没有在学校里面高。预计这个五一节就把这个专栏完成得差不多了吧，后续打算再开个专栏，去写WebServer，正好我的课设也准备交这个上去。今天刚回到家，就看到卧室桌上一个很熟悉的本子，哈哈哈哈这不是我高中记单词的本子吗，怎么跑出来了，估计是被我妈整理房间的时候给翻出来了吧。那时候的字还很青涩（虽然现在也差不多）好多回忆瞬间就涌上心头了。泪目~OK，言归正传，今天准备谈一下YOLOv5的损失函数loss.py。
centertrack
justsolow的博客
12-31 4103
Centertrack模型转换小结 首先我转的模型是centertrack这个模型，其实总的来说这个模型还是比较简单的，但是由于其中有一个DCN卷积在onnx和tensorflow中不支持的自定义算子，所以转换起来有会有很多问题。 CenterNet 其实CenterNet一共是有两篇文章的，他们都是AnchorFree类型的网络，两个网络既有相似的地方也有本质的区别，都很具有启发意义，跟我们的CenterTrack都有很大的关系，所以在这里都介绍一下。 先讲一下《CenterNet: Keypoint T
一个“普通人”的秋招算法岗上岸心得
weixin_38877987的博客
06-23 440
大家好，我是海森堡。 一直想写点东西总结一下自己的秋招历程，觉得在一定程度上应该能代表很多"普通人"的秋招经历。但是由于各种原因（主要是自己懒），从去年11月秋招大致结束，一直拖到现在都没有写。最近在好友的鼓励下，终于下定决心，克服懒散，提笔记录下这段艰难但也颇有意义的经历，希望能给师弟师妹们一些信心，同时少走一些弯路。另外题目中写"普通人"是因为自觉在各方面都不出彩，加引号是为了免去一些闲话，如果你看完全文还是觉得我有冒犯，那我在这里先道个歉。 先介绍下自己的背景：西北某211本硕，方向为计算机视觉（CV
cowboyoutfits using mmdet
SNOWsama的博客
08-09 519
线下使用mmdet进行目标检测 本文大部分参考mmdet官方文档 安装 首先你的环境里要有GPU版的pytorch，参考pytorch官网 pip install torch torchvision torchaudio ps. 似乎没有cuda和cudnn驱动也可以用gpu版的torch，anaconda下已经预装了它俩。 mmcv-full 一定要装full版本，不带full的似乎是cpu版本 pip install mmcv-full -f https://download.openmmla
了解focal loss
shitoucoming的博客
09-10 333
Focal Loss理解 1. 总述 Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重，也可理解为一种困难样本挖掘。   2. 损失函数形式 Focal loss是在交叉熵损失函数基础上进行的修改，首先回顾二分类交叉上损失： 是经过激活函数的输出，所以在0-1之间。可见普通的交叉熵对于正样本而言，输出概率越大损失越小。对于负样本而言，输出概率越小则损失越小。...
YOLO v3采用focal_loss 效果看法
行云
04-26 8120
YOLO v3采用focal_loss 效果拙见，不对的地方欢迎指正 论文里，yolov3里一个gt只分配给一个最高iou的predictanchor，不是最高，如果iou高 于阈值，就忽略这个预测，对于小于阈值的predictanchor只有objectnessloss，这个方法筛除了很多预测框，而objectnessloss只是很小的一部分； 本身yolov...
focal loss简要解读
hxshine的博客
10-09 4557
1 focal loss作用 聚焦于难训练的样本，对于简单的，易于分类的样本，给予的loss权重越低越好，对于较为难训练的样本，loss权重越好越好。 简单有效 2 证明 2.1 交叉熵的计算 交叉熵是这样子的，就算是多类交叉熵也可以按二进制交叉熵来算的。 2.2 简化交叉熵（对于二进制交叉熵来说） 然后假设pt并简化交叉熵： 可以看出，此时Pt，值域还是0-1之间，Pt越大，越接近于1，那...
深度学习系列之Focal Loss个人总结
热门推荐
LeeWanzhi的博客
04-24 3万+
1. Introduction object detection按其流程来说，一般分为两大类。一类是two stage detector(如非常经典的Faster R-CNN)，另一类则是one stage detector(如SSD、YOLO系列)。 虽然one stage detector检测速度可以完爆two stage，但是mAP却干不过two stage。 So，Why？ the...
Focal Loss理解
weixin_30586257的博客
08-18 2230
1. 总述 Focal loss主要是为了解决one-stage目标检测中正负样本比例严重失衡的问题。该损失函数降低了大量简单负样本在训练中所占的权重，也可理解为一种困难样本挖掘。 2. 损失函数形式 Focal loss是在交叉熵损失函数基础上进行的修改，首先回顾二分类交叉上损失： 是经过激活函数的输出，所以在0-1之间。可见普通的交叉熵对于正样本而言，输出概率越大损失越小。对...
本地模型部署指南[可运行源码]
11-23
本文详细介绍了如何访问和配置本地已部署的模型。首先，用户需要访问指定网址下载并安装chatbox软件。安装完成后，初次进入时需要选择使用自己的模型选项。接着，进入设置界面，选择模型提供方为ollama api，并输入相应的域名（如http://xxxxx:11434），其他设置保持默认，最后点击保存即可完成配置。配置完成后，用户可以选择并使用模型。整个过程简单明了，适合需要本地部署模型的用户参考。
基于ssm框架实现的网上商城.zip
11-23
基于ssm框架实现的网上商城.zip
JDK安装与环境配置[项目代码]
最新发布
11-23
本文详细介绍了JDK的安装和环境变量配置的全过程。首先，从JDK官网下载安装包，然后按照步骤进行安装，默认安装路径为C:Program FilesJavajdk-17。接着，重点讲解了如何配置环境变量，包括新建JAVA_HOME变量和修改Path变量，以便在任意路径下执行Java程序。最后，通过cmd命令验证JDK是否安装成功。此外，文章还附带了一份Python学习资料的推广内容，包括学习路线、视频、书籍、工具包、实战案例和面试题等资源。
pytorch有没有封装好的Focal Loss
12-28
PyTorch库本身并没有直接提供Focal Loss的预定义函数，但它有一个叫做`torch.nn.functional`的模块，这个模块中包含了一些常见的损失函数，如交叉熵Loss (CrossEntropyLoss)。如果你想使用Focal Loss，你需要手动...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值