【看看这长尾学习】解耦训练 Balanced group Softmax

最新推荐文章于 2024-05-08 09:42:36 发布
原创 最新推荐文章于 2024-05-08 09:42:36 发布 · 1.1k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#聚类 #深度学习 #kmeans

本文介绍了一种名为BAGS的模型，用于解决对象检测任务中类别不平衡的问题。通过将类别分组并引入平衡策略，该模型能有效提升对长尾类别的建模能力，同时避免过度采样。文章详细阐述了GroupSoftmax的应用、分组策略以及其在训练和测试阶段的实施方法。

04 Overcoming classifier imbalance for long-tail object detection with balanced group softmax

论文观点和表现：

  • 现有检测方法在数据集严重倾斜时不能对极少数类进行建模，这导致分类器在参数量级上不平衡。并且长尾分类模型并不能直接应用于检测框架。

  • 本文提出了一个新的平衡组（BAGS）模型来平衡检测框架内的分类器，能够隐式的调制尾部和头部类别的训练过程并且确保训练充分（没有对尾部实例进行额外的采样）

    [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kwlpq1cX-1637840547331)(C:\Users\13576\AppData\Roaming\Typora\typora-user-images\image-20211125152336998.png)]
    在这里插入图片描述

实验原理：
  • 网络结构：

在这里插入图片描述

  • Group softmax

    • 划分一系类的平衡组，每个Group中各类别实例数目相当。

      • 将 CCC 个类别分为 NNN 个Groups, 分配的依据是每个类的实际实例数目。

      • Snl≤N(j)<Snh,n>0{S_{n}^{l} \le N(j)<S_{n}^{h}, n>0}S

最低0.47元/天 解锁文章
解耦表示学习（Decoupled Representation Learning, DRL）算法详解
qq_42568323的博客
12-24 1992
解耦表示学习（Decoupled Representation Learning，DRL）是一种通过分离表征学习和任务学习过程来提高学习效率的机器学习方法。在传统的机器学习任务中，特征表示（或表征）与任务（如分类、回归、强化学习等）是紧密相连的。然而，DRL提出通过解耦的方式，使得特征的学习和任务的学习可以分别进行，从而让算法能够独立优化表示学习和任务学习，提高了模型的灵活性、可扩展性以及对复杂任务的适应性。
图像长尾分布(Long-Tail Distribution)问题
AI天才研究院
07-12 1225
在等常用视觉数据集中，由于经过人工预筛选，图像中的不同目标类别的数量是接近的。而在实际的视觉应用中，数据集大多服从，即少数类别(称为)占据绝大多数样本，多数类别(称为)仅有少量样本。一个典型的长尾分布数据集(商标数据集)如下图所示。定义数据集的**不平衡率(imbalance ratio)**为类别的最大数量和最小数量之比。
论文阅读：《Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax》
qq_40310050的博客
12-28 2479
基于深度学习模型的长尾大词汇量对象检测是一项具有挑战性和高要求的任务，但仍未得到充分的研究。 在这项工作中，我们提供了第一个系统的分析，最先进的模型在长尾分布前的表现不佳。 我们发现，现有的检测方法在数据集极其倾斜的情况下无法建模少数类，这可能导致分类器在参数大小方面的不平衡。 由于检测和分类的本质区别，直接将长尾分类模型应用于检测框架并不能解决这一问题。 在本工作中，我们提出了一种新的平衡组 balanced group softmax(BAGS)模块，通过组明智训练来平衡检测框架中的分类器。 它隐式地调
【读论文0702】Learning to Segment the Tail
luochi9051的博客
07-02 756
Learning to Segment the Tail论文内容Intuition具体方法总结 论文地址 code 发表年份：CVPR2020 论文内容 Intuition 解决问题：分割。 对于长尾数据，类别样本分布不平衡。那很直接的想法就是把不同类的样本分成均衡的就行了，不过这样一分，样本就会很少，就变成了fewshot learning。然后看看这个论文怎么解决的。 这个想法是很容易想到的呀，就是具体操作不太好设计。前几天看的那个Balanced Group Softmax还有个multi-expe
【论文阅读】解决类别分布严重不均衡
麒麒哈尔的博客
06-01 1411
文章目录Focal lossOHEMGT AugmentBAGS 数据集类别严重不均衡的问题在3D object detection上非常常见，这里记录几篇关于这个问题的解决办法。 Focal loss focal loss可以缓解这个问题，减少容易样本loss的权重。 OHEM 在线难例挖掘，仍然是减少易分类样本对loss的影响。 GT Augment 做少样本类别的instance的augmentation，这在3D object detection任务中是一个非常常见的数据增广手段。但这有个问题是，增
应对长尾分布的目标检测 -- Balanced Group Softmax
XP and Altoria
05-19 2888
应对长尾分布的目标检测 – Balanced Group Softmax 文章目录应对长尾分布的目标检测 -- Balanced Group Softmax长尾分布的数据以往应对长尾分布的方法Balanced Group Softmax效果评估 这次给大家介绍一篇CVPR2020的文章，题为“Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax”，主要解决目标检测中的长尾数据分布问
CVPR2020 oral | 解决目标检测长尾问题简单方法：Balanced Group Softmax
AI算法修炼营的博客
06-18 6012
点击上方“AI算法修炼营”，选择“星标”公众号精选作品，第一时间送达本文是中科院、新加坡国立大学联合发表的工作，收录于CVPR2020，并被选为CVPR2020 oral。刚刚开源了最新...
CVPR2020 Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax
Q1u1NG的博客
11-16 938
摘要 论文地址 利用基于深度学习的模型解决长尾大词汇量目标检测是一项具有挑战性和高要求的任务，但目前研究还不足。在本研究中，我们首次系统地分析了最先进的模型在长尾分布前的不足之处。我们发现，现有的检测方法在数据集严重倾斜时无法对few-shot类进行建模，这将导致分类器在参数量级上不平衡。 ...
解耦训练的定义
最新发布
05-15
引用[2]里提到的是Balanced group Softmax，将分类任务分解成前后背景组和其他类别组，这应该属于解耦的一种应用。而引用[5]讨论了用Python实现大语言模型的层级解耦，涉及模块化设计。 解耦训练的核心在于将复杂的...
BalancedGroupSoftmax:CVPR 2020口头论文
04-13
平衡类Softmax克服分类器不平衡用于长尾物体检测 :warning: 最新：当前的回购是完整版本。 但是我们删除了许多冗余代码，目前仍在测试中。 此回购协议是CVPR 2020口头论文的正式实施：克服带有分类组Softmax的长尾物体检测的分类器不平衡。 注意：当前代码仍然不是很干净。 我们仍在努力中，它将很快得到更新。 要求 1.环境： 要求与。 我们在以下设置上进行了测试： 的Python 3.7 CUDA 9.2 pytorch 1.3.1 + cu92 火炬视觉0.4.2 + cu92 多媒体广告0.2.14 HH=`pwd` conda create -n mmdet python=3.7 -y conda activate mmdet pip install cython pip install numpy pip install torch pip instal
Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax
HughZou的博客
06-09 553
BAGS；long-tail
探索长尾对象检测的平衡之路：Balanced Group Softmax框架
gitblog_00014的博客
05-08 526
探索长尾对象检测的平衡之路：Balanced Group Softmax框架 在计算机视觉领域，长尾分布问题一直是困扰对象检测性能的一大挑战。近期出现的一个解决方案是CVPR 2020年的一篇口头论文——《克服分类器不平衡的长尾物体检测：利用平衡组softmax》（Paper）。本项目提供了该论文的官方实现，旨在解决类别不平衡，提升对稀有类别的检测效果。 项目介绍 项目名称为"Balan...
对长尾识别任务中解耦方法的改进
学姐带你玩AI的博客
12-13 772
在长尾识别任务上，解耦（二阶段）的方法取得了巨大的进步。本文详细分析了解耦的方法，针对存在的两个问题进行改进，提出了Mixup Shifted Label-Aware Smoothing model (MiSLAS)，该方法包括标签平滑和迁移BN两种方案。
探索Group Softmax SimpleDet：一款高效且灵活的目标检测框架
gitblog_00002的博客
03-29 376
探索Group Softmax SimpleDet：一款高效且灵活的目标检测框架 在计算机视觉领域，目标检测是不可或缺的一环，它允许我们识别和定位图像中的各个物体。 是一个基于PyTorch实现的轻量级目标检测模型，以其独特的设计和高效的性能吸引了众多研究者和开发者的关注。 项目简介 Group Softmax SimpleDet的核心是一个结合了Group Softmax损失函数的Single ...
channelinboundhandler中都包含了哪一类的方法_通过Balanced Group Softmax方法解决目标检测中样本长尾分布的问题...
weixin_39614146的博客
11-23 821
Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group SoftmaxOvercoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax​arxiv.org问题的产生的背景目标...
Overcoming Classifier Imbalance for Long-tail Object Detectionwith Balanced Group Softmax论文阅读
dtjun_sjtu的博客
10-13 286
Overcoming Classifier Imbalance for Long-tail Object Detection with Balanced Group Softmax 通过group softmax克服目标检测中数据不均衡问题 可以用论文的一张图来概括核心思想 在训练时： 按照自己的数据集分布（数量分布or bbox的大小分布），将种类的分为n组，然后补上g0对前景和背景进行分类。 对各组进行softmax处理，然后分别进行损失计算。 预测时：...
分阶段解耦训练 模型之间的参数迁移
ting
11-22 678
分阶段实现INN解耦训练
《Balanced Meta-Softmax for Long-Tailed Visual Recognition》阅读笔记
AncilunKiang的博客
03-05 1355
论文标题 《Balanced Meta-Softmax for Long-Tailed Visual Recognition》 用于长尾视觉识别的平衡元-Softmax 作者 Jiawei Ren、Cunjun Yu、Shunan Sheng、Xiao Ma、Haiyu Zhao、Shuai Yi 和 Hongsheng Li 商汤科技、南洋理工大学、新加坡国立大学和香港中文大学多媒体实验室 初读 摘要 背景： 深度分类器在视觉识别领域取得了巨大成功。然而，现实世界的数据本质上是长尾的，导致训练和测试分
奇思妙想 | 重参数化，解耦网络结构的训练和推理
idol24的博客
04-12 2046
点击上方“机器学习与生成对抗网络”，关注星标获取有趣、好玩的前沿干货！作者丨丁霄汉@知乎来源丨https://zhuanlan.zhihu.com/p/361090497清华丁霄汉：本届C...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值