SPATIALLY TRANSFORMED ADVERSARIAL EXAMPLES

最新推荐文章于 2025-03-29 18:30:03 发布
原创 最新推荐文章于 2025-03-29 18:30:03 发布 · 1.7k 阅读 · 2 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文提出了stAdv方法，通过空域局部形变而非像素值扰动生成对抗样本，更符合人类视觉感受，且能绕过一些防御机制。实验表明，stAdv在MNIST和CIFAR-10上成功生成了难以察觉的对抗样本，挑战了现有的防御方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

SPATIALLY TRANSFORMED ADVERSARIAL EXAMPLES

本文发表在ICLR2018上

引言

传统的对抗样本生成方式都是加扰动，是一种像素值变换，本文提出一种空域变换生成对抗样本的方法stAdv，虽然基于此方法在传统的对抗样本生成评价指标中和原图像会有较大的LpLp距离，但是从人的视觉感官上这种变换方式更真实，且更不容易被现有对抗攻击防御方法检测出来。
传统像素值扰动生成对抗样本的问题：利用L2L2 距离作为相似性度量不符合人的视觉感受机制

方法

最小化空域局部形变，而不是传统的像素值LpLp 距离。具体地，设输入图像为xx，输出的对抗样本为

最低0.47元/天 解锁文章

200万优质内容无限畅学
A Survey on Deep Learning Techniques Applied to medical image analysis
AI天才研究院
08-13 492
作者：禅与计算机程序设计艺术 Introduction:Deep learning techniques have recently gained popularity in medical image analysis because they are capable of accurately identifying disease markers without relying on human intervention, enabling better decision-making and tre
【AI 顶会】NIPS2019接收论文完整列表
热门推荐
TomRen
09-11 3万+
NeruIPS2019接受的论文列表已放出
[paper]SPATIALLY TRANSFORMED ADVERSARIAL EXAMPLES
weixin_43150428的博客
05-13 652
本文提出了一种基于空间变换（spatially transformed）（smooth image deformation）的对抗样本生成算法。（LpL_pLp​距离较大，但图像更真实更不容易被检测） 之前的生成算法大多是将LpL_pLp​范数作为损失函数，然后直接调整像素值。 两个重要因素 1）图片亮度和质量 2）几何关系 先前的大多数对抗攻击都建立在改变亮度和质量的基础上，同时假设在对抗扰动生成过程中图片的几何关系保持不变。 算法： 最小化空域局部形变，而不是传统的像素值LpLpLp 距离。具体地，设输
Spatially transformed adversarial examples
sinat_36059653的博客
04-25 835
本文为转载，原作者地址https://zhuanlan.zhihu.com/p/47419905 Spatially transformed adversarial examples 文章目录Spatially transformed adversarial examples背景空间转换问题建模实验结果空间转换可视化防御模型下的攻击效率CAM图总结 背景 以往的攻击算法多是通过改变图片中某些像素点的值来生成对抗样本，本文将分享一篇不走寻常路的方法，通过改变像素点的位置来达成攻击。作者不仅测试了自己的攻击算法
[论文翻译]:Spatial Transformer Generative Adversarial Networks for Image Compositing（STN-GAN）
bxdzyhx的博客
10-31 1143
0 摘要 我们解决的问题是找到对前景对象的逼真的几何校正，以使其在合成为背景图像时看起来自然。为此，我们提出了一种使用STNs的新的GAN（ Generative Adversarial Network）结构，我们称之为ST-GAN。ST-GAN通过在geometric warp parameter space空间中进行操作来寻求图像逼真度。ST-GAN的主要优势之一是其间接适用于高分辨率图像，因为预测的warp parameter可在参考帧（reference frame）之间传递。我们在两种应用中演示.
对抗攻击vs对抗样本（adversarial samples）
weixin_43872455的博客
04-29 3413
什么是对抗攻击？ 由于机器学习算法的输入形式是一种数值型向量（numeric vectors），所以攻击者就会通过设计一种有针对性的数值型向量从而让机器学习模型做出误判，这便被称为对抗性攻击。 在计算机视觉领域，对抗攻击（adversarial attack）旨在通过向图片中添加人眼无法感知的噪音以欺骗 图像分类、目标识别等机器学习模型。如下图所示，输入原图像，图像分类器给出的结果为“是熊猫的概率为57.7%”，而在给原图像加上一段噪音后，结果变成了“是长臂猿的概率为99...
对抗样本Adversarial Examples
wangsanNOLOVE的博客
11-19 240
# 对抗样本Adversarial Examples
对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
Enjoy_endless
12-09 3368
准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。 内容不是纯翻译，包括自己的一些注解和总结，论文的结构、组织及相关描述，以及一些英语句子和相关工作的摘抄(可以用于相关领域论文的写作及扩展)。 平时只是阅读论文，有很多知识意识不到，当你真正去着手写的时候，发现写完之后可能只有自己明白做了个啥。包括从组织、结构、描述上等等很多方面都具有很多问题。另一个是对于专业术语、...
论文研读2——对抗样本(Adversarial Example)综述（2021版）
xxxibgdrgn博客
11-04 8061
对抗样本领域，涉及对抗攻击，防御等方面的综述
Adversarial Sample misleading the Model(生成对抗样本迷惑模型)
selous的专栏
12-15 3615
Introductionadversarial examples—inputs formed by applying small but intentionally worst-case perturbations to examples from the dataset , such that the perturbed input results in the model outputting
PyTorch-Adversarial-示例：对CIFAR-10和MNIST的对抗攻击
02-14
PyTorch顾问实例 对CIFAR-10和MNIST的对抗攻击。 这些笔记本使用生成对抗示例，以攻击PyTorch模型。 将来可能会针对更多数据集提供更多方法。
对抗样本的定义
欢迎来到道的世界
05-09 634
 对抗样本主要是特指能攻击深度神经网络模型并且人眼不可察觉的恶意样本，以下为各个论文中对其的定义。 Adversarial examples are a type of attack on machine learning (ML) systems which cause misclassification of inputs. 《Adversarial Examples and Metrics》 An adversarial sample is an input crafted to cause dee
【深度学习NLP论文笔记】《Towards Crafting Text Adversarial Samples》
野心家-Andy的博客
08-20 1946
Abstract 文本fool的方法：修改原始样本：删除或替换一些重要的单词，或引入新的单词。我们的算法最适用于在每个类的例子中有子类别的数据集。基于情绪分析的IMDB电影评论数据集和性别检测的Twitter数据集的实验结果显示了我们所提出的方法的有效性。 1.introduction 使用Word2Vec方法进行数据预处理和特征提取。但是Word2Vec的离散特征使得将向量映射到单词变...
AI可解释性 I | 对抗样本（Adversarial Sample）论文导读（持续更新）
最新发布
fenfenfen520a的博客
03-29 36
AI可解释性 I | 对抗样本（Adversarial Sample）论文导读（持续更新） 导言 本文作为AI可解释性系列的第一部分，旨在以汉语整理并阅读对抗攻击（Adversarial Attack）相关的论文，并持续更新。与此同时，AI可解释性系列的第二部分：归因方法（Attribution）也
论文：Open-Category Classification by Adversarial Sample Generation
choose_c的博客
01-21 1050
论文题目：Open-Category Classification by Adversarial Sample Generation 论文发表：IJCAI2017 Github： 摘要：在真实的分类场景中，很难收集到一个任务存在的所有的类别标签样本。一个鲁棒的分类器在遇到一个没有见过标签的样本时应该能够分辨出来，而不是将它归类于现有的已知的类别中。这是开放类别分类（Open-Category...
对抗样例论文学习三
下一站十字路口
01-02 678
adversarial examples in the physical world 这是 Goodfellow 在ICLR 2017会议上的论文。 目前攻击样例，攻击者均是直接对抗图像喂给分类器，但是这个在现实世界中可能不是那么容易。所以作者模拟了通过相机捕捉的对抗图像，观察现实世界中的对抗效果。因为经过照相和打印，会对原有图像进行了些许的扰动，可能会影响攻击的效果。 作者使用谷歌Ince
对抗样本文章笔记（一）
lxk9409的博客
05-07 1088
论文笔记—DeepSafe: A Data-driven Approach for Checking Adversarial Robustness in Neural Networks DeepSafe方法 1、对训练数据进行聚类 do: input (X,y),k where k equals #(class of y) do K-Means on ...
Paper Review: Adversarial Examples
Mr_Limitless的博客
12-05 809
1. One pixel attack for fooling deep neural networks Motivation: Generating adversarial images can be formalized as an optimization problem with constraints. We assume an input image can be represent...
Computing image mean... ./examples/cifar10/create_cifar10.sh: 16: ./examples 怎么回事
qq_18343569的博客
03-14 1253
Computing image mean... ./examples/cifar10/create_cifar10.sh: 16: ./examples  怎么回事 在运行caffe时出现下面的错误： ~/Downloads/caffe-master/examples/mnist$cd ~$sh/home/wangxiao/Downloads/caffe-master/exa
Spatially Variant Lattice
03-21
<think>好的，我需要帮助用户了解“Spatially Variant Lattice”（空间变化格子）的概念或实现，特别是在计算机图形学或计算几何中的应用。首先，我需要回忆相关知识，并参考提供的引用资料。 首先，用户提供的引用中，引用[1]是关于CodeSLAM的，可能涉及紧凑表示和优化，但可能与格子结构关联不大。引用[2]提到了曲率正则化和图像分割，可能与网格优化或区域划分有关，可能涉及空间变化的网格结构。不过，这两个引用是否直接涉及Spatially Variant Lattice还不确定，可能需要更广泛的背景知识。 Spatially Variant Lattice通常指在空间中具有变化分辨率或结构的格子网格。在计算几何中，这可能涉及自适应网格细化（Adaptive Mesh Refinement, AMR），根据某些指标（如误差估计）调整网格密度。在图形学中，可能用于纹理映射、曲面细分或物理模拟，以提高局部细节的表现。 接下来，我需要组织回答的结构： 1. **概念解释**：定义空间变化格子，说明其与均匀格子的区别，强调其适应性的优势。 2. **核心特点**：动态调整分辨率、数据结构支持变化、应用场景。 3. **实现方法**：可能的实现技术，如四叉树/八叉树、层次化网格、基于误差的优化方法。 4. **应用领域**：图形学中的具体应用，比如流体模拟、曲面细分，计算几何中的网格生成。 5. **引用资料关联**：虽然提供的引用可能不直接相关，但可以尝试联系，例如引用[2]中的曲率正则化可能与网格优化中的曲率适应有关，从而调整格子结构。 需要注意用户提到的引用[2]是关于曲率正则化的，可能涉及在图像分割中使用曲率信息来优化区域边界，这可能与空间变化格子的自适应调整有相似之处，比如根据曲率调整网格密度以提高分割精度。但需要明确说明这种联系是否存在。 此外，用户可能希望了解具体实现的技术细节，比如数据结构的选择（如稀疏网格、树结构），算法步骤（如自适应细化的条件），或者数学基础（如变分方法、优化策略）。因此，在实现方法部分需要涵盖这些内容。 最后，生成相关问题需要考虑用户可能的进一步疑问，比如应用案例、与其他方法的比较、具体算法实现等。</think>### Spatially Variant Lattice 概念与实现 #### 概念解析 **空间变化格子**（Spatially Variant Lattice）是一种在空间不同区域具有**动态分辨率或结构特性**的网格系统。与均匀网格不同，其单元大小、形状或连接关系可随局部需求（如几何复杂度、物理特性）自适应调整。例如，在流体模拟中，高流速区域可能采用更密集的网格以捕捉细节，而平缓区域则用稀疏网格节省计算资源[^2]。 #### 核心特点 1. **动态分辨率**：根据局部特征（如曲率、梯度）调整网格密度。 2. **数据结构灵活性**：支持非均匀、非规则的单元分布，常用树结构（如四叉树、八叉树）管理。 3. **高效性与精度平衡**：减少计算量同时保留关键区域的细节。 #### 实现方法 1. **基于树结构的自适应细分** - 使用**四叉树（2D）或八叉树（3D）**递归划分区域，直至满足局部精度条件（如曲率阈值）。 - 例如，在图像分割中，可通过曲率正则化驱动网格细化以准确捕捉边界。 ```python class Quadtree: def subdivide(self, condition): if condition(self.region): for child in self.children: child.subdivide(condition) ``` 2. **层次化网格（Hierarchical Grids）** - 多分辨率网格层叠，通过插值或限制算子连接不同层，适用于多尺度模拟。 3. **基于优化的方法** - 将网格分布建模为能量最小化问题，例如结合曲率约束和计算成本[^2]，使用线性规划或有限元法求解。 #### 应用场景 - **计算机图形学**： - **曲面细分**：在模型高曲率区域增加三角面片密度。 - **实时渲染**：动态调整地形LOD（细节层次）。 - **计算几何**： - **自适应有限元分析**：在应力集中区域细化网格。 - **图像处理**：曲率驱动的图像修复或分割[^2]。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值