26、对抗攻击：阻碍深度伪造的有效手段

对抗攻击：阻碍深度伪造的有效手段

1. 引言

AI 合成的虚假人脸正逐渐侵蚀我们对网络媒体的信任。由于大多数基于 AI 的人脸合成算法在准备训练数据时，都需要自动人脸检测作为不可或缺的预处理步骤，因此，通过干扰人脸检测方法，我们可以获得一种有效的保护方案。本文将介绍一种主动保护方法，旨在阻止自动检测的人脸和人脸对齐信息被大量用于 AI 合成人脸的生产。

2. 人脸检测器的黑盒攻击

对 Fr50、SSHv16 和 SSHr50 人脸检测器进行了黑盒攻击的可视化示例。在图中，顶行对应原始图像的检测结果，中间行对应添加对抗扰动后图像的检测结果，底行显示添加的实际噪声（放大 30 倍以便更好地可视化）。这种攻击会导致更多的误检测，从而更有效地降低人脸集作为 AI 人脸合成系统训练数据的质量。

3. 攻击面部特征点提取器

3.1 实验模型

在三种最先进的基于 CNN 的面部特征点提取器上验证了该方法，分别是 FAN、HRNet 和 AVS - SAN。
- FAN ：由多个堆叠的沙漏结构构建，为简单起见，使用了一个沙漏结构。
- HRNet ：由并行的高到低分辨率子网络组成，并在多分辨率子网络之间重复进行信息交换。
- AVS - SAN ：首先将人脸图像分解到风格和结构空间，然后将其用作增强来训练网络。这三种方法的实现均在 WLFW 数据集上进行了训练。

3.2 数据集

为了证明该方法在阻碍 DeepFake 生成方面的有效性，在