【论文研读】Data Augmentation, Network Invariances, Pre-training with Hard Examples

最新推荐文章于 2025-01-27 23:34:19 发布
原创 最新推荐文章于 2025-01-27 23:34:19 发布 · 377 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了用于实例分割的简单复制粘贴数据增强技术，展示其对基线方法的显著提升。同时，介绍了神经网络中学习不变性的方法——Augerino，该方法能自动发现各种变换的不变性和等变性。此外，还讨论了一种通过创建难例进行自监督预训练的方法，以改进视觉表示。这些技术在图像分类、分割任务上表现优秀，并能与多种架构和损失函数兼容。

目录

Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation (arxiv 2020.12)

Learning Invariances in Neural Networks (nips2020)

Self-supervised Pre-training with Hard Examples Improves Visual Representations (arxiv 2020.12)

 

Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation (arxiv 2020.12)

idea：

  • perform a systematic study of the Copy-Paste augmentation (e.g., [13, 12]) for instance segmentation where we randomly paste objects onto an image
  • we show Copy-Paste is additive with semi-supervised methods that leverage extra data through pseudo labeling (e.g. self-training).

Introduction：

  • a simple strategy of randomly picking objects and pasting them at random locations on the target image p
最低0.47元/天 解锁文章
【论文阅读】Data augmentation相关论文
qq_42711123的博客
10-02 732
阅读了与代码数据增强相关的论文。
论文阅读：Learning Data Augmentation Strategies for Object Detection
j879159541的博客
06-16 888
文章目录1、论文总述2、学习数据增强这方面的学术进展3、本文对离散优化问题所使用的方法4、搜索出来的最有效的数据增强手段5、实验结果表格6、两个有趣的发现7、 Learned data augmentation improves model regularization 1、论文总述 这篇论文是在Autoaugment基础上探索目标检测里的数据增强的自动学习，Autoaugment是针对分类网络的，论文最主要的内容是先罗列了很多的数据增强手段，然后分成5个sub_policy，在这些空间中搜索最优的不同数据
论文阅读 Jointly Optimize Data Augmentation and Network Training
u013548568的博客
06-27 1120
Abstract 随机的数据扩增对于网络训练很重要，以前的方法是数据扩增和网络训练是分开的，本文设计一种自动的扩增网络来产生hard的样本扩增，augmentation网络探索了target(hourglass)网络的弱点，target网络从hard样本中去实现更加优越的性能，作者设计了reward/penalty机制来方便网络的joint训练 Introduction 传统的数据扩增的...
论文精选——《A survey on Image Data Augmentation for Deep Learning》
instersight的博客
10-23 1377
这篇论文总结了现有数据增强的方法（include geometric transformations, color space augmentations, kernel filters,mixing images, random erasing, feature space augmentation, adversarial training,generative adversarial networks, neural style transfer, and meta-learning），光明的发展前景
Data Augmentation
24小时的程序员
10-06 518
水平翻转(Horizontal flipping) 随机裁剪(Random cropping) 随机放缩(Random scaling) 颜色抖动(Color jittering) 随机平移(Random translation) 随机剪切(Random shearing) simpler model structure regularization ...
论文：Weakly Supervised Data Augmentation Network for Fine-Grained Visual Classification
风源-
12-24 667
本篇论文主要使用了数据增强的方法，和一般图片随机的翻转，裁剪的方法不同，本文提出了一种基于注意力机制的数据增强方法。通过基础网络提出图片的特征图确定目标的大致位置，同时根据特征图生成一个注意力图(attention maps)来表征对象的显著特征部分，随机选择一张注意力图，通过注意力剪裁和注意力删除的方式去增强这张图片（即只保留一个局部特征和只删除一个局部特征），最后原图和增强对数据都会被作为输入数据进行训练。对生成的特征图和注意力图进行BAP(双线性注意力池化)获得全部的局部特征后进行分类。 本篇文章的
论文笔记--GCC Graph Contrastive Coding for Graph Neural Network Pre-Training
weixin_44139001的博客
10-22 2284
论文笔记–GCC: Graph Contrastive Coding for Graph Neural Network Pre-Training 简介：KDD 2020发表的一篇关于预训练应用在图神经网络的论文，目前引用量120+。目标是学习一个初始化的GNN encoder，但是实验效果不佳， GCC 表现逼进甚至不如目前的GIN。论文链接???? 摘要 引言 相关工作 GCC 实验 结论 摘要 ​ 图表征学习（Graph representation learning）已经成为解决现实问题的一种强
【论文阅读笔记】BLIP: Bootstrapping Language-Image Pre-training for Unified Vision-Language Understanding...
qq_40432278的博客
11-03 973
BLIP是一种基于VLP的新框架，统一并灵活地应用于视觉-语言理解任务和生成任务。BLIP通过引导生成图像描述来有效利用噪声网络数据，从而在多个下游任务上取得了最先进的性能。
【论文学习】ProposalContrast: Unsupervised Pre-training for LiDAR-based 3D Object Detection
m0_60799447的博客
01-13 1123
现有的无监督点云预训练方法主要聚焦于场景级别或点/体素级别的实例区分。场景级方法：易于丢失对道路物体的重要局部细节。点/体素级方法：由于感受野有限，难以感知大型物体或上下文环境。解决方案：ProposalContrast为了解决上述问题，提出了一种新的无监督点云预训练框架，名为。目标：通过对比区域提案学习鲁棒的3D表示。核心方法采样点云中的区域提案集。在每个提案内建模几何点关系，生成富有表现力的提案表示。优化提案的类内紧致性和类间分离性，提升提案表示的区分能力。
复制-粘贴大法（Copy-Paste）：简单而有效的数据增强
u012254599的博客
04-26 2103
建立有效的实例分割模型，并能处理罕见的对象类别是计算机视觉中一个重要的挑战。数据增强是应对这一挑战的一个有前途的方向。在这里，我们在实例分割方向对复制-粘贴增强进行了系统的研究，如随机地将对象粘贴到一张图像上。先前对复制粘贴的研究依赖于对周围视觉环境的建模来。然而，我们发现随机粘贴对象的简单机制已经足够好了，并且可以在强baseline之上提供稳定的增益。此外，我们通过半监督方法证明复制-粘贴带来的性能是可叠加的，该方法通过伪标签利用额外的数据(如自训练)。
copy-paste-aug:复制粘贴增强功能以​​进行细分和检测任务
04-14
复制粘贴 复制粘贴增强的非官方实现。 构建增强功能可轻松与白蛋白整合。 为COCO提供了创建兼容火炬视觉数据集的示例。 图像，遮罩和边框的核心功能已完成； 关键点尚不支持。 通常，您可以像使用其他任何专辑增强功能一样使用CopyPaste增强功能。 注意一些用法限制。 使用说明 BboxParams不能具有label_fields。 要将类标签附加到边界框，请将其直接附加到边界框坐标。 （即（x1，y1，x2，y2，class_id））。 传递给CopyPaste增强的边界框还必须在“遮罩”列表中包含相应遮罩的索引。 （即边界框看起来像（x1，y1，x2，y2，class_id，mask_index））。 举了一个COCO的例子。 CopyPaste增强功能期望使用6个关键字参数，而不是3个： output = transforms ( image = image , masks
【目标检测-复制粘贴数据增强】
小秋的博客
03-21 1870
在目标检测、分类和分割任务中，复制粘贴数据增强（Copy-Paste Data Augmentation）是一种创新的数据增广技术，它通过将训练集中的一部分物体实例复制并粘贴到其他图像的合理位置上，以生成新的训练样本。这种方法能够增加模型对不同场景下物体多样性的识别能力，并且尤其有助于提升小样本类别和边界框定位的准确性。以下是一个简化的示例，展示如何在PyTorch环境下用自定义方式实现该方法。实例分割框架是基于Mask R-CNN，使用。
Copy-Paste Augmentation 项目使用教程
gitblog_00008的博客
03-07 420
Copy-Paste Augmentation 项目使用教程 1. 项目的目录结构及介绍 copy-paste-aug/ ├── LICENSE ├── README.md ├── coco.py ├── copy_paste.py ├── example.ipynb ├── example.png └── visualize.py LICENSE: 项目的开源许可证文件，本项目使用 MIT ...
Deep Learning的案例-YoloV5中的数据增强
longwoo1012的博客
08-09 3144
hyp参数列表 lr0: 0.01 # initial learning rate (SGD=1E-2, Adam=1E-3) lrf: 0.2 # final OneCycleLR learning rate (lr0 * lrf) momentum: 0.937 # SGD momentum/Adam beta1 weight_decay: 0.0005 # optimizer weight decay 5e-4 warmup_epochs: 3.0 # warmup epochs (frac
【Copy-Paste】《Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation》
bryant_meng
12-14 1415
CVPR-2021
代码复现：Copy-Paste 数据增强for 语义分割
AI数据工厂
12-29 9055
论文Simple Copy-Paste is a Strong Data Augmentation Method for Instance Segmentation非官方实现的代码。
如何解决小尺寸图像分割中的样本不均衡问题
最新发布
hello！
01-27 825
原理：将稀有目标的像素块复制粘贴到其他图像中，低成本生成平衡数据。 适用场景：小目标（如车辆、船只）或极端稀疏类别（如灾害损毁区域）。 PyTorch 实现： 2. 自监督预训练（Self-Supervised Pretraining） 原理：利用无标签数据预训练模型，增强特征提取能力，缓解小样本学习压力。 适用场景：标注成本高、有大量未标注遥感数据的场景。 工具推荐：使用 库实现自监督对比学习： 3. 动态类别权重（Class-Balanced Loss） 原理：根据每个 batch 的实时类别分布
Copy-Paste
whaosoft143ai的博客
12-19 858
在下图中可视化了与IoU相关的得分的平均值和标准差后，结果表明，即使是像（Mask r-cnn）这样的现成检测器，这种正相关也会逐渐受到拥挤度增加的干扰。考虑到上图所示的观察结果，预测分数的不稳定性来源于拥挤，一种新的解决方案是将拥挤环境中的一个目标的分数（被其他目标覆盖）与未覆盖时的分数对齐。其次，虽然CCP和CCP+CL的曲线似乎没有明显的区别，但通过计算它们的平均std（图中的4个直方图），研究者发现后者的值实际上低于前者。在2D视觉目标检测领域，由相似目标之间的重叠引起的拥挤是普遍存在的挑战。
Influence of Autoencoder-Based Data Augmentation on Deep Learning-Based Wireless Communication
03-30
By generating additional training data through data augmentation, the performance of deep learning models can be greatly improved. This is particularly important in wireless communication systems, ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值