【论文阅读】深度学习系统的对抗攻击及其对抗样本

目录

前言       

1. DeepXplore 

1.1 DeepXplore工作流程

1.2 DeepXplore主要的贡献是：

1.3 论文中的示例

2. DEEP CONTRACTIVE NETWORK—深度压缩网络

3. DeepFool

参考文献：

---

前言       

         传统软件需要测试，对于深度学习系统的对抗攻击会使得深度学习模型产生错误的行为，因此对于深度学习系统也需要测试。

        DLFuzz，是检测深度神经网络健壮性的差分模糊测试框架。DLFuzz目标是最大化神经元覆盖率并生成更多的针对深度学习模型的对抗样本。相比于DeepXplore使用高神经元覆盖率和多错误触发数联合进行样本的优化和选取。输入的是原始的测试数据样本。输出的是基于原始样本生成的对抗样本，对抗样本可以触发模型的错误预测。

        本文讨论的是DLFuzz的相关扩展知识，在这里只简单说明一下，有时间下回在描述DLFuzz。接下来讨论DeepXplore、DEEP CONTRACTIVE NETWORK深度压缩网络和DeepFool。

1. DeepXplore 

（DeepXplore: Automated Whitebox Testing of Deep Learning Systems）

1.1 DeepXplore工作流程

图1. DeepXplore工作流程

        如上图1所示，DeepXplore将未标记的测试输入作为种子（seeds），通过同质异构的DNN模型表现出不同的行为，同时经过联合优化控制各个DNN之间的行为差异化程度和最大化神经元覆盖率，最后输出新的可以触发深度学习系统不同行为的输入集。

1.2 DeepXplore主要的贡献是：

（1）神经元覆盖率；

（2）生成新输入集；

（3）新输入集自动打标签；

（4）对新输入集的再训练。