2、深度神经网络上下文相关鲁棒性验证方法

深度神经网络上下文相关鲁棒性验证方法

1. 引言

在实际应用中，神经网络分类器常常会受到各种自然环境因素的干扰，如雾霾、对比度变化和模糊等。这些干扰可能会导致模型的准确性下降，甚至出现误分类的情况。因此，评估模型在这些自然扰动下的鲁棒性至关重要。本文将介绍一种名为 DeepCert 的工具支持方法，用于系统地验证神经网络分类器的上下文相关鲁棒性，并通过两个案例研究展示其有效性。

2. 案例研究 1：道路交通速度标志分类

2.1 数据集与模型

• 数据集 ：使用德国交通标志基准的一个子集，每个样本是 32×32 的 RGB 图像，选取了代表速度标志的七个类别，各类别样本数量如下表所示：
  | Class | Description | # Train | # Test |
  | — | — | — | — |
  | 0 | 30 km/h | 1980 | 720 |
  | 1 | 50 km/h | 2010 | 750 |
  | 2 | 60 km/h | 1260 | 450 |
  | 3 | 70 km/h | 1770 | 660 |
  | 4 | 80 km/h | 1650 | 630 |
  | 5 | 100 km/h | 1290 | 450 |
  | 6 | 120 km/h | 1260 | 450 |
• 模型 ：构建了三个复杂度级别的分类模型，每个级别有两个模型，其准确率如下表所示：
  | Model | Description | Accura