对抗样本(相关知识整理)

最近在学习接触一些对抗样本的相关知识、论文，整理分享如下。
(未完待续)

1.什么是对抗样本：

在原有真实样本的基础上稍加处理，使原有分类器对其真实类别无法判别；
（比如带了一个面具之后你不认识我了，或者说是批了一个羊皮，你就识别不出来我是一个人了。）

2.对抗样本有什么用：

对于人脸识别，我带上一个特制眼镜就识别不出来我是谁了；
对于安保摄像识别人的系统，我穿了一个特制衬衫，摄像头就识别不出来我是一个人了。
路标指示牌上我贴了一个贴纸之后，自动驾驶就识别指示牌识别错误了。

3.如何生成对抗样本：

(注意，模型对于图像彩色、灰度、尺寸、压缩、模糊等是具有鲁棒性的)
基本原理就是对于原样本像素值的一个扰动。

1）测试集角度上样本处理

1、基于像素值的变化

1）FGSM(Fast Gradient Sign Method):

扰动值：设置为模型损失梯度的sign函数，

在经典的FGSM算法中，根据相应的代价梯度方向(符号)对所有的输入像素进行相同程度的正负变化；(我们发现仅仅利用梯度最低和最高的部分像素值同样可以产生有效的对抗样本)

2）DeepFool
扰动处理，直到分类错误(达到目的)，停止扰动(计算了到达决策边界的xi的扰动向量，并更新