对抗样本的学习拖了很多天,最近补上。
今天主要看了一篇论文和对论文的复现,附上论文链接和代码
synthesizing-robust-adversarial-examples https://arxiv.org/abs/1707.07397
(综合强大的对抗样本)
代码搬运:https://github.com/prabhant/synthesizing-robust-adversarial-examples
摘要
实现对抗性的算法,并在三维中证明存在,3D打印出来的物体具有对抗样本的性质。
实验结果
3D打印的乌龟一直被分类为步枪,而正常乌龟则分类正常。
本文创新点:
1、 引入EOT期望转换算法,并证明有效
2、 3D渲染得到的实物具有对抗性
EOT(Expectation Over Transformation期望转换)
最大化目标类的对数似然,将每一个像素都归一化到【0,1】。原始输入X,函数P(),X撇更改后的输入,yt目标类,公式如下:
EOT算法限制原始输入和目标输入的距离(小于の值),使得原始X不会更改过大。将x和x撇距离最小化,使