Feature Squeezing

最新推荐文章于 2022-06-06 12:41:25 发布

原创

最新推荐文章于 2022-06-06 12:41:25 发布 · 3.3k 阅读

14 ·

CC 4.0 BY-SA版权

文章标签：

#对于《Feature Squeezing: Detectin

本文介绍了《Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks》中提出的对抗样本检测方法。通过减小输入特征的冗余度，例如降低颜色深度和空间平滑，来压缩输入样本，从而识别对抗样本。正常图像在压缩后与原始图像差异不大，而对抗样本在压缩后与原始图像的差异显著，以此作为判断依据。这种方法精度高且开销小，能有效降低对抗攻击的影响。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

对于《Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks》的理解

很多先前的防止adversarial example的方法都是，adversarial training and gradient masking，都会修改原来的网络，本文讲述的是利用对input压缩简化的方式，去进行对于输入样本的检测，以此判断是否是对抗样例。这个方法，要精度更高，而且开销更小一些。

原因是作者发现，神经网络的输入值，有很多“冗余”的特征项目（原文：feature input spaces are often unnecessarily large），这样会更加的有利于别人制造adversarial example。作者提供了一个Squeezing的方法，去减少没有必要的那些feature。具体方法如下：

（原文： Our strategy is to reduce the degrees of freedom available to an adversary by “squeezing” out unnecessary input
features）

这里写图片描述