Focal loss简易版理解与实现

最新推荐文章于 2023-07-15 11:04:31 发布
原创 最新推荐文章于 2023-07-15 11:04:31 发布 · 871 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #算法

本文探讨了Focal Loss在密集对象检测中的应用，它通过调整交叉熵，降低易分类样本的权重，有效应对类别不平衡问题，尤其在两阶段检测器和一阶段检测器面临的背景噪声中。Focal Loss通过α系数和γ参数优化，使得训练集中在难以区分的类别上，提升模型性能。

paper: Focal Loss for Dense Object Detection
主要是解决class imbalance
two stage的detector，会有候选的region，而one stage的detector会存在大量的容易分类的背景，这些很容易分类的背景会造成一定程度的训练浪费。

focal loss解决class imbalance，同时降低容易分类的weight，使训练更集中到难分类的上面

把cross entropy的概率化简成pt
在这里插入图片描述
在这里插入图片描述
解决class imbalance

In practice alpha may be set by inverse class frequency
or treated as a hyperparameter to set by cross validation.

在这里插入图片描述
降低容易分类的weight，可以看出pt越大，比如0.9，说明很容易区分了，gamma=2时，它的weight就会缩小100倍
在这里插入图片描述
将两者

最低0.47元/天 解锁文章
足球运动员检测 (player, ball) - SoccerNet 数据集 + YOLOv10 + UI界面实现
YOLO
05-30 220
SoccerNet 是一个专门为足球比赛分析设计的大规模数据集，包含大量足球比赛视频及其对应的标签。SoccerNet数据集公开提供了赛事中各种事件的标注信息，如进球、角球、越位等，同时还有目标检测标签，涵盖了足球运动员、足球、裁判等对象。多场比赛视频数据，真实赛况，场景丰富细粒度目标检测标签，包括足球运动员（player）和足球（ball）标准化标签格式，支持多种深度学习检测框架YOLO系列目标检测模型从YOLOv1到YOLOv9不断进化，逐步提升检测速度和精度。
论文(3) Focal Loss
GZHermit的博客
05-25 731
Focal Loss @(目标检测) Focal Loss是KaiMing大神提出来的，这篇文章的重点在于分析了one-stage网络的检测精度为什么会弱于two-stage的网络。当原理分析出来之后，其实公式的更改就很简单了。这篇paper也自建了一个网络RetinaNet[1][1]^{[1]}，在COCO数据集上的检测效果达到了40%的效果，提升效果非常明显。 这篇文章提出On...
focal loss的实现
茶佬牛逼
11-22 782
focal loss的原文https://arxiv.org/abs/1708.02002里公式写的不太清晰，只写了其中一部分（正例项），实际编程实现的时候正例项和负例项对损失的贡献都是要考虑的，很多博客里写的都是错的，下面给出正确公式。 设标签为y，预测为y'， 二进制交叉熵（Binary Cross Entropy, BCE）定义为： Focal Loss（FL）如下，其...
Focal Loss(ICCV2017 best student paper)
木盏
05-05 3108
Focal Loss由FAIR提出。Kaiming包揽了ICCV2017的最佳论文（Mask R-CNN）和最佳学生论文（Focal Loss）。 按照国际惯例，给出Focal Loss的论文标题和链接： Focal Loss for Dense Object Detection http://openaccess.thecvf.com/content_ICCV_2017/papers/L...
Focal loss论文翻译
weixin_40471107的博客
10-26 748
用于深度目标检测的focal loss 0 .摘要 目前最受欢迎的目标探测器是基于RNN推广的two-stage方法，其中候选对象位置的稀疏集使用分类器。相反，对可能的目标位置进行有规律、密集采样的one-stage探测器有可能更快更简单，但准确率远远落后于two-stage探测器。我们调查此原因，发现深度探测器训练时发生的前背景分类的极度不平衡是主要原因。我们通过重塑标准交叉熵损失来解决，这样它就能降低分配给易分类样本的损失。我们的Focal Loss专注于在一组稀疏的困难样本上训练，并组织大量的易负样本
目标检测——Focal loss 论文笔记
s000da的博客
04-29 283
论文链接： https://xmfbit.github.io/2017/08/14/focal-loss-paper/ 阅读以下资料后填坑 参考资料 1. https://www.zhihu.com/question/63581984 2. https://blog.csdn.net/weixin_40581617/article/details/78931635 3. http...
基于ImageAI和RetinaNet的简易目标检测实现
其关键创新在于引入了“Focal Loss”损失函数，有效解决了目标检测中正负样本极度不平衡的问题——即背景区域（负样本）远多于待检测物体（正样本），导致模型容易偏向于预测背景而忽略小目标。Focal Loss通过对易...
YOLOv8网络架构深度分析：一步到位理解与调整，性能优化无压力
[YOLOv8网络架构深度分析：一步到位理解与调整，性能优化无压力](https://img-blog.csdnimg.cn/20210513224614982.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9...
机器学习路径完全版
佐井白白的微笑
03-06 2145
文章目录1. 数学基础2. 编程基础2.1 Python & C++2.2 Linux & Shell2.3 深度学习框架3. 统计学习3.1 课程（选一）3.2 书籍4. 深度学习4.1 课程（选一）4.2 书籍（选一）5. 专业领域5.1 图像课程（选一）书籍5.2 自然语言处理5.3 视觉SLAM5.4 强化学习课程书籍6. 论文7. 总结 写在前面： 重点推荐内容加粗...
quality focal loss & distribute focal loss 详解（paper, 代码）
热门推荐
蓝羽飞鸟的博客
01-10 1万+
QFL， DFL
Focal Loss
pursuit_zhangyu的博客
06-03 934
RetinaNet https://blog.csdn.net/JNingWei/article/details/80038594 https://zhuanlan.zhihu.com/p/59910080 第二个上面写的focal loss比较好 交叉熵损失函数写的比较好的 https://blog.csdn.net/dcrmg/article/details/80010342?utm...
【深度学习 | 计算机视觉】Focal Loss原理及其实践（含源代码）
wzk4869的博客
07-15 1万+
【深度学习 | 计算机视觉】Focal Loss原理及其实践（含源代码）
Pytorch小知识点
Bear_Kai的专栏
04-01 607
x = torch.tensor([1,2,3]), y=torch.tensor([4,5,6]).cuda(0) （1）tensor to numpy: x.numpy() or y.cpu().numpy （2）numpy to tensor: torch.from_numpy() （2.1）a=torch.from_numpy(b)，b改变会影响a，a的dtype=torch.floa...
【损失函数合集】超详细的语义分割中的Loss大盘点
I good vegetable a!
01-18 7396
前言 前两天介绍了一下Contrastive Loss，Triplet Loss以及Center Loss。今天正好是周六，时间充分一点我就来大概盘点一下语义分割的常见Loss，希望能为大家训练语义分割网络的时候提供一些关于Loss方面的知识。此文只为抛转引玉，一些Loss笔者暂时也没有进行试验，之后做了实验有了实验结果会继续更新。 交叉熵Loss L=−∑c=1Myclog(pc)L=-\sum...
【目标检测】59、损失函数 | 分类检测分割中的损失函数和评价指标
呆呆的猫的博客
01-02 6818
本文详细介绍目标检测、语义分割、图像分类中的各类损失函数和评价指标
图像分割常见Loss
黄小黄的窝
07-12 2700
图像分割常见Loss 最近在研究图像分割，由于自己之前没学习过，只能好好鼓捣，好久没写了。忙完分割项目总结一下。 1、基于分类损失 ①：binary cross entropy 二分类的交叉熵损失函数 当类别数M等于2的时候，这个损失就是二元交叉熵Loss。 交叉熵Loss可以用在大多数语义分割场景中，但它有个缺点，那就是对于只用分割前景和背景的时候，当前景像素的数量远远小于背景像素的数量时，即y=0的数量远大于y=1的数量，损失函数中y=0的成分就会占据主导，使得模型严重偏向背景，导致效果不好。 #二值
探究logsoftmax的计算细节
tricoffee
01-22 1578
import torch import numpy as np import torch.nn.functional as F import math from functools import reduce exp = math.exp log = math.log #设置实验数据 input = torch.tensor([[2.5, -0.5, 0.1], ...
focal loss
qq_43152949的博客
10-24 338
focal loss 1. Introduction 目前最先进的object detectos是基于two-stage的机制，如faster R-CNN。one-stage detectors应用于对象位置、尺度和纵横比的规则，密集抽样。如YOLO，SSD，但one-stage精度比不上two-stage。我们认为训练过程中的class imbalance 是阻碍精度的主要障碍。所以我们提出了一...
[论文阅读] Focal Loss for Dense Object Detection
learning notes
10-27 2240
arxiv: https://arxiv.org/pdf/1708.02002.pdf 何凯明 homepage: http://kaiminghe.com/paper 写得很好，可以多读。1.解决的问题： 在稠密目标检测中，产生的目标候选区域中正负样本数量悬殊，大部分都是对 loss没有贡献的easy background example. 很容易进行分类。2.相关 paper: R-CNN
Pytorch中的Focal Loss实现与项目源码分享
资源摘要信息: "Focal-Loss-基于Pytorch实现Focal-Loss-附项目源码.zip" 在深度学习领域，损失函数的选择对于模型性能至关重要。损失函数用于度量模型预测值与真实值之间的差异，其设计直接影响到模型的学习效率和...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

蓝羽飞鸟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值