SPATIALLY TRANSFORMED ADVERSARIAL EXAMPLES

最新推荐文章于 2025-03-29 18:30:03 发布
原创 最新推荐文章于 2025-03-29 18:30:03 发布 · 1.7k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文提出了stAdv方法，通过空域局部形变而非像素值扰动生成对抗样本，更符合人类视觉感受，且能绕过一些防御机制。实验表明，stAdv在MNIST和CIFAR-10上成功生成了难以察觉的对抗样本，挑战了现有的防御方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

SPATIALLY TRANSFORMED ADVERSARIAL EXAMPLES

本文发表在ICLR2018上

引言

传统的对抗样本生成方式都是加扰动，是一种像素值变换，本文提出一种空域变换生成对抗样本的方法stAdv，虽然基于此方法在传统的对抗样本生成评价指标中和原图像会有较大的LpLp距离，但是从人的视觉感官上这种变换方式更真实，且更不容易被现有对抗攻击防御方法检测出来。
传统像素值扰动生成对抗样本的问题：利用L2L2 距离作为相似性度量不符合人的视觉感受机制

方法

最小化空域局部形变，而不是传统的像素值LpLp 距离。具体地，设输入图像为xx，输出的对抗样本为

最低0.47元/天 解锁文章

200万优质内容无限畅学
A Survey on Deep Learning Techniques Applied to medical image analysis
AI天才研究院
08-13 497
作者：禅与计算机程序设计艺术 Introduction:Deep learning techniques have recently gained popularity in medical image analysis because they are capable of accurately identifying disease markers without relying on human intervention, enabling better decision-making and tre
【AI 顶会】NIPS2019接收论文完整列表
热门推荐
TomRen
09-11 3万+
NeruIPS2019接受的论文列表已放出
[paper]SPATIALLY TRANSFORMED ADVERSARIAL EXAMPLES
weixin_43150428的博客
05-13 653
本文提出了一种基于空间变换（spatially transformed）（smooth image deformation）的对抗样本生成算法。（LpL_pLp​距离较大，但图像更真实更不容易被检测） 之前的生成算法大多是将LpL_pLp​范数作为损失函数，然后直接调整像素值。 两个重要因素 1）图片亮度和质量 2）几何关系 先前的大多数对抗攻击都建立在改变亮度和质量的基础上，同时假设在对抗扰动生成过程中图片的几何关系保持不变。 算法： 最小化空域局部形变，而不是传统的像素值LpLpLp 距离。具体地，设输
Spatially transformed adversarial examples
sinat_36059653的博客
04-25 836
本文为转载，原作者地址https://zhuanlan.zhihu.com/p/47419905 Spatially transformed adversarial examples 文章目录Spatially transformed adversarial examples背景空间转换问题建模实验结果空间转换可视化防御模型下的攻击效率CAM图总结 背景 以往的攻击算法多是通过改变图片中某些像素点的值来生成对抗样本，本文将分享一篇不走寻常路的方法，通过改变像素点的位置来达成攻击。作者不仅测试了自己的攻击算法
[论文翻译]:Spatial Transformer Generative Adversarial Networks for Image Compositing（STN-GAN）
bxdzyhx的博客
10-31 1153
0 摘要 我们解决的问题是找到对前景对象的逼真的几何校正，以使其在合成为背景图像时看起来自然。为此，我们提出了一种使用STNs的新的GAN（ Generative Adversarial Network）结构，我们称之为ST-GAN。ST-GAN通过在geometric warp parameter space空间中进行操作来寻求图像逼真度。ST-GAN的主要优势之一是其间接适用于高分辨率图像，因为预测的warp parameter可在参考帧（reference frame）之间传递。我们在两种应用中演示.
对抗攻击vs对抗样本（adversarial samples）
weixin_43872455的博客
04-29 3424
什么是对抗攻击？ 由于机器学习算法的输入形式是一种数值型向量（numeric vectors），所以攻击者就会通过设计一种有针对性的数值型向量从而让机器学习模型做出误判，这便被称为对抗性攻击。 在计算机视觉领域，对抗攻击（adversarial attack）旨在通过向图片中添加人眼无法感知的噪音以欺骗 图像分类、目标识别等机器学习模型。如下图所示，输入原图像，图像分类器给出的结果为“是熊猫的概率为57.7%”，而在给原图像加上一段噪音后，结果变成了“是长臂猿的概率为99...
对抗样本Adversarial Examples
wangsanNOLOVE的博客
11-19 241
# 对抗样本Adversarial Examples
对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
Enjoy_endless
12-09 3370
准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。 内容不是纯翻译，包括自己的一些注解和总结，论文的结构、组织及相关描述，以及一些英语句子和相关工作的摘抄(可以用于相关领域论文的写作及扩展)。 平时只是阅读论文，有很多知识意识不到，当你真正去着手写的时候，发现写完之后可能只有自己明白做了个啥。包括从组织、结构、描述上等等很多方面都具有很多问题。另一个是对于专业术语、...
论文研读2——对抗样本(Adversarial Example)综述（2021版）
xxxibgdrgn博客
11-04 8085
对抗样本领域，涉及对抗攻击，防御等方面的综述
Adversarial Sample misleading the Model(生成对抗样本迷惑模型)
selous的专栏
12-15 3617
Introductionadversarial examples—inputs formed by applying small but intentionally worst-case perturbations to examples from the dataset , such that the perturbed input results in the model outputting
PyTorch-Adversarial-示例：对CIFAR-10和MNIST的对抗攻击
02-14
PyTorch顾问实例 对CIFAR-10和MNIST的对抗攻击。 这些笔记本使用生成对抗示例，以攻击PyTorch模型。 将来可能会针对更多数据集提供更多方法。
对抗样本的定义
欢迎来到道的世界
05-09 637
 对抗样本主要是特指能攻击深度神经网络模型并且人眼不可察觉的恶意样本，以下为各个论文中对其的定义。 Adversarial examples are a type of attack on machine learning (ML) systems which cause misclassification of inputs. 《Adversarial Examples and Metrics》 An adversarial sample is an input crafted to cause dee
【深度学习NLP论文笔记】《Towards Crafting Text Adversarial Samples》
野心家-Andy的博客
08-20 1948
Abstract 文本fool的方法：修改原始样本：删除或替换一些重要的单词，或引入新的单词。我们的算法最适用于在每个类的例子中有子类别的数据集。基于情绪分析的IMDB电影评论数据集和性别检测的Twitter数据集的实验结果显示了我们所提出的方法的有效性。 1.introduction 使用Word2Vec方法进行数据预处理和特征提取。但是Word2Vec的离散特征使得将向量映射到单词变...
AI可解释性 I | 对抗样本（Adversarial Sample）论文导读（持续更新）
最新发布
fenfenfen520a的博客
03-29 38
AI可解释性 I | 对抗样本（Adversarial Sample）论文导读（持续更新） 导言 本文作为AI可解释性系列的第一部分，旨在以汉语整理并阅读对抗攻击（Adversarial Attack）相关的论文，并持续更新。与此同时，AI可解释性系列的第二部分：归因方法（Attribution）也
论文：Open-Category Classification by Adversarial Sample Generation
choose_c的博客
01-21 1053
论文题目：Open-Category Classification by Adversarial Sample Generation 论文发表：IJCAI2017 Github： 摘要：在真实的分类场景中，很难收集到一个任务存在的所有的类别标签样本。一个鲁棒的分类器在遇到一个没有见过标签的样本时应该能够分辨出来，而不是将它归类于现有的已知的类别中。这是开放类别分类（Open-Category...
对抗样例论文学习三
下一站十字路口
01-02 680
adversarial examples in the physical world 这是 Goodfellow 在ICLR 2017会议上的论文。 目前攻击样例，攻击者均是直接对抗图像喂给分类器，但是这个在现实世界中可能不是那么容易。所以作者模拟了通过相机捕捉的对抗图像，观察现实世界中的对抗效果。因为经过照相和打印，会对原有图像进行了些许的扰动，可能会影响攻击的效果。 作者使用谷歌Ince
对抗样本文章笔记（一）
lxk9409的博客
05-07 1093
论文笔记—DeepSafe: A Data-driven Approach for Checking Adversarial Robustness in Neural Networks DeepSafe方法 1、对训练数据进行聚类 do: input (X,y),k where k equals #(class of y) do K-Means on ...
Paper Review: Adversarial Examples
Mr_Limitless的博客
12-05 810
1. One pixel attack for fooling deep neural networks Motivation: Generating adversarial images can be formalized as an optimization problem with constraints. We assume an input image can be represent...
Computing image mean... ./examples/cifar10/create_cifar10.sh: 16: ./examples 怎么回事
qq_18343569的博客
03-14 1253
Computing image mean... ./examples/cifar10/create_cifar10.sh: 16: ./examples  怎么回事 在运行caffe时出现下面的错误： ~/Downloads/caffe-master/examples/mnist$cd ~$sh/home/wangxiao/Downloads/caffe-master/exa
Spatially Variant Lattice
03-21
好的，我需要帮助用户了解“Spatially Variant Lattice”（空间变化格子）的概念或实现，特别是在计算机图形学或计算几何中的应用。首先，我需要回忆相关知识，并参考提供的引用资料。 首先，用户提供的引用中，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值