AAAI 2020，数据增强方法：Random Erasing Data Augmentation

Random Erasing Data Augmentation

厦门大学 智能多媒体实验室的一项工作，Leader：李绍滋，发表在AAAI 2020上。

Zhong, Zhun, et al. “Random erasing data augmentation.” Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 34. No. 07. 2020.

1. 摘要：

介绍了一种新的训练卷积神经网络(CNN)的数据增强方法——随机擦除。在训练阶段，随机擦除在图像中随机选择一个矩形区域，并用随机值擦除它的像素。在此过程中，生成不同遮挡程度的训练图像，降低了过拟合的风险，使模型对遮挡具有鲁棒性。随机擦除是无参数学习，易于实现，可以与大多数基于CNN的识别模型集成。随机擦除虽然简单，但它是对常用的数据增强技术(如随机裁剪和翻转)的补充，在图像分类、目标检测和人员再识别方面，与强大的基线相比，可以产生持续的改进。

优点：

• 一种轻量级方法，不需要任何额外的参数学习或内存消耗。它可以在不改变学习策略的情况下与各种CNN模型集成。
• 现有数据扩充和正则化方法的补充方法。当两者结合时，随机擦除进一步提高了识别性能。
• 在图像分类、目标检测和人员重新识别方面不断提高最新的最先进的深度模型的性能。
• 提高神经网络对部分共包样本的鲁棒性。当我们随机添加遮挡到CIFAR-10测试数据集时，随机擦除显著优于基线模型。

2. 相关工作

目的均为围绕提高CNN等模型的泛化能力，而提出很多的数据增强和正则化方法，例如裁剪、翻转、dropout和batch normalization。遮挡(Occlusion)是影响神经网络泛化能力的一项重要的因素，期望在不同层次遮挡情况下保持模型的基本不变性。强鲁棒性模型可以在物体部分区域被遮挡的情况下，依然有较强的识别能力。

3. 数据集：

任务	数据集
Image Classfication	CIFAR-10 CIFAR-100 Fashion-MNIST
Object Detection	PASCAL VOC 2007
Person re-identification	Market-1501 DukeMTMC-reID CUHK03

4. 方法

描述了随机擦除的详细过程。接下来，介绍了随机擦除在不同任务中的实现。最后，我们分析了随机擦除和随机裁剪之间的差异。

4.1 随机擦除

训练中，随机擦除有一定的概率性，$p$的概率将被随机擦除，$1-p$的概率是保持不变。

假设图像的面积是$S=W\times H$，随机初始化擦除的面积为$S_e$，其中$\frac{S_e}{S}$的范围在$s_l$与$s^{}$