论文那些事—Feature Importance-aware Transferable Adversarial Attacks

最新推荐文章于 2025-04-17 11:15:06 发布

凉茶i

最新推荐文章于 2025-04-17 11:15:06 发布

阅读量1.5k

点赞数 3

文章标签：深度学习神经网络计算机视觉

本文链接：https://blog.youkuaiyun.com/shuweishuwei/article/details/121703258

版权

Feature Importance-aware Transferable Adversarial Attacks（FIA,ICCV 2021）

1、摘要

基于迁移性的黑盒攻击，中间层攻击。首先利用聚合梯度获取迁移性更好的梯度信息，本文中认为梯度信息代表了该点的特征重要性，然后通过抑制比较重要的特征，增强比较不重要的特征，来干扰模型最终的判断。

从图中可以看出传统的攻击方式生成的对抗样本在黑盒攻击中会被弱化，甚至无效，鸟的特征比原先更加突出，而本文的方法FIA则将注意力转移出去了。

流程图如下：

输入一张图片，提取到中间层的特征，然后进行反向传播计算梯度，用梯度来代表特征的重要性，然后将特征图谱和特征重要性进行点乘，得到加权特征映射，再用来做优化，优化目标是通过具体抑制积极/重要特征和促进消极/琐碎特征来优化加权特征映射，从而获得更高的可转移对抗性样本。

中间层：指CNN中输入和输出之间的所有层，都叫中间层，文中只取其中一层，所以有一个层数

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

凉茶i

关注关注

3
点赞
踩
5

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

计算机视觉论文总结系列（一）：目标检测篇

专注大数据与人工智能技术分享，欢迎私信加群互相学习！

03-23

8652

本系列主要面向计算机视觉目标检测、图像分割及OCR等领域，每篇将对该领域论文等方面展开介绍，本篇主要介绍目标检测领域历年论文，希望大家能够多多交流如有错误请大家在评论区指正，如有侵权联系删除

Feature Importance-aware Transferable Adversarial Attacks

B站搜索馆主君晓欢迎关注~

03-10

3416

本文首发自馆主君晓的博客，文章链接：https://www.guanzhujx.com/archives/fia-transferable-adversarial-attacks 论文阅读笔记，论文链接:https://arxiv.org/pdf/2107.14185.pdf 背景介绍该文章发表在2021的ICCV会议当中，并且由浙江大学、武汉大学、Adobe联合发表。我们知道深度神经网络容易受到对抗样本的攻击，而对抗样本的生成是已知源模型的参数，然后在源模型的基础上生成对抗样本的。但是在现实

参与评论您还未登录，请先登录后发表或查看评论

Diffusion Models for Imperceptible and TransferableAdversarial Attack--阅读笔记

最新发布

小羊不会飞的博客

04-17

753

FGSM（fast gradient sign method）是一种基于梯度生成对抗样本的算法，属于对抗攻击中的无目标攻击（即不要求对抗样本经过model预测指定的类别，只要与原样本预测的不一样即可。和模型鲁棒性的关键环节，尤其在模型结构多样化的今天（如CNN、Transformer、MLP并存），其重要性愈发显著。它反映了模型对非理想条件的抵抗力和泛化性，尤其在面对对抗攻击、数据损坏或环境变化时的可靠性。，并评估模型在面对不同攻击来源时的鲁棒性。上的攻击效果，旨在评估攻击方法的。

论文学习：Feature Importance-aware Transferable Adversarial Attacks

weixin_42570231的博客

08-05

1284

基于迁移性的黑盒攻击首先利用gradient aggregate获取迁移性更好的梯度信息，本文中认为梯度信息代表了该点的feature importance，然后通过抑制比较重要的feature，增强不重要的feature，来干扰模型最终的判断。...

ICCV2021 | FIA | 特征重要性感知可迁移对抗攻击

四口鲸鱼爱吃盐的博客

02-07

796

本文 “Feature Importance-aware Transferable Adversarial Attacks” 提出了特征重要性感知攻击（FIA）方法，通过破坏主导模型决策的重要目标感知特征，显著提高对抗样本的可转移性，在攻击多种分类模型时性能优于现有方法。

论文阅读笔记——Towards Transferable Adversarial Attack Against Deep Face Recognition

weixin_42185553的博客

08-08

1055

论文阅读笔记——Towards Transferable Adversarial Attack Against Deep Face Recognition一.解决的问题二.创新点三.具体实现过程四.实验结果五.存在的问题 Against Deep Face Recognition) 一.解决的问题提出了一种针对黑盒的人脸识别系统攻击方法，该方法首先构造一个针对代理模型的对抗样本，由于同一任务的对抗样本具有泛化的能力，因此针对代理模型生成的对抗样本对其它黑盒模型也具有攻击能力。二.创新点通过dropou

基于视觉的机器人抓取: 论文及代码(Vision-based Robotic Grasping: Papers and Codes)

dsoftware的博客

10-22

2万+

最新-时间序列-顶会顶刊论文汇总【论文/源码链接】

weixin_45016199的博客

05-18

4068

【论文阅读笔记】NeurIPS2020文章列表Part1

热门推荐

zincrain的博客

12-09

2万+

【论文阅读】Diffusion Models for Imperceptible and Transferable Adversarial Attack

qq_45822394的博客

05-20

2908

许多现有的对抗攻击在图像RGB空间上产生Lp范数扰动。尽管在可迁移性和攻击成功率方面取得了一些成就，但精心制作的对抗样本很容易被人眼感知。对于视觉的不可感知性，最近的一些研究探索了不受Lp范数约束的无限制攻击，但缺乏攻击黑盒模型的可迁移性。在这项工作中，我们通过利用扩散模型的生成和判别能力，提出了一种新的难以察觉和可迁移的攻击。

TPAMI 2024-DiffAttack：Diffusion Models for Imperceptible and TransferableAdversarial Attack

weixin_49090702的博客

11-17

1250

本文提出的DiffAttack方法通过利用扩散模型的生成和判别能力，成功生成了既不可感知又具有高度转移性的对抗性样本。广泛的实验结果表明，DiffAttack在各类模型、防御方法和数据集上均表现出色，显著优于现有的对抗性攻击方法。本文的研究为对抗性攻击领域提供了新的思路和工具，并为未来的研究方向指明了方向。

【迁移攻击笔记】ILA中间层攻击！对抗扰动の再扰动！EnhancingAdversarialExampleTransferability with an IntermediateLevelAttack

weixin_43916250的博客

11-20

1536

核心思想：注意：以下内容顺序与论文完全不符，我按照自己的思路写的，所以开头对不上不必惊慌。 ① 已知神经网络越往后越线性，所以对抗攻击中模型迁移的大问题背景下，肯定越线性越好迁移。 ② But！源模型往往最后过度线性了（可以理解为源模型对目标模型训练中的过拟合），所以最好也不要选太靠后的模型。 ③ 很多攻击方法诸如FGSM，捕捉梯度的，都是越往后层，对对抗方向的把握越好的。所以这些攻击方法基本都...

[读论文]通过中间层攻击提高对抗样本的迁移性(Enhancing Adversarial Example Transferability with an ILA)

Donald Su

11-13

2344

内容来源于论文：Enhancing Adversarial Example Transferability with an Intermediate Level Attack，发表在11月初的ICCV 2019会议上。论文地址：Enhancing Adversarial Example Transferability with an Intermediate Level Attack 完整论...

【网络安全】——中间人攻击

A1_3_9_7的博客

01-09

5094

中间人攻击（Man-in-the-Middle Attack，简称MITM），是一种会话劫持攻击。攻击者作为中间人，劫持通信双方会话并操纵通信过程，而通信双方并不知情，从而达到窃取信息或冒充访问的目的。中间人攻击是一个统称，具体的攻击方式有很多种，例如Wi-Fi仿冒、邮件劫持、DNS欺骗、SSL劫持等。中间人攻击常用于窃取用户登录凭据、电子邮件和银行账户等个人信息，是对网银、网游、网上交易等在线系统极具破坏性的一种攻击方式。

横向联邦学习-梯度安全聚合（二）

老码农

07-12

1484

一背景最近总结自己的公众号的时候，发现一个问题：对于联邦学习的文章，基本都是在讲述纵向联邦学习，对于横向联邦学习的技术涉及较少，所以心血来潮之下，决定写几篇文章来压压箱子底。 ❝ 横向联邦：现代移动设备可以访问大量适合学习模型的数据，这些数据反过来可以大大提高设备上的用户体验。例如，语言模型可以提高语音识别和文本输入，图像模型可以自动选择好的照片。然而，这些丰富的数据通常是隐私敏感的、数量很大的，或者两者兼有，这可能会阻止记录到数据中心并使用常规方法在那里进行分析训练。 ❞ 所以针对于此研发人员设计了一

扩散模型+CV与NLP科研笔记专栏文章汇总：【Diffusion Models】

zik的博客

04-04

5116

CLIP是一个多模态的大模型，用了4亿个（图像、文本）对进行对比学习，学习之后可以直接进行zero-shot推理，并且不需要像ImageNet那样标注1000个类，而是可以人为给出文本提示，进行图片和文本之间的相似度计算，而且迁移效果很好。那么基于此，提出了Classifier-Free Diffusion Guidance，后续非常多的工作都是基于其来进行的，例如DALL·E 2、Imagen等吸引人眼球的模型基本上都是以它为基础做的。直接用训练好的非条件的扩散模型，无需重复训练。

「隐语小课」联邦学习之基本方法

m0_69580723的博客

08-25

1590

PCA-LDA Feature importance

03-09

### 如何评估PCA-LDA组合降维后特征的重要性在应用PCA（主成分分析）和LDA（线性判别分析）组合进行降维之后，评估新特征的重要性能帮助理解模型并优化其表现。以下是几种常用的方法来衡量这些特征的重要性： #### 使用方差贡献率评价PCA效果对于PCA部分，在转换过程中产生的每一个主成分都具有对应的方差值，该数值反映了此维度上数据分布的离散程度。可以通过计算各个主成分所占总方差的比例——即方差贡献率，以此作为初步判断依据之一[^1]。 ```python from sklearn.decomposition import PCA pca = PCA() X_pca = pca.fit_transform(X) explained_variance_ratio = pca.explained_variance_ratio_ print(explained_variance_ratio) ``` #### 利用载荷矩阵解析各原始变量的影响通过查看PCA变换后的载荷矩阵（loading matrix），能够得知原输入空间中的每个属性与新的主成分之间的关联强度。绝对值较大的元素意味着相应变量在此方向上的投影较强，从而间接表明它对该主成分形成的贡献较大[^3]。 #### 基于LDA分离度指标考量类间差异进入LDA阶段后，则更关注不同类别样本间的区分能力。可以采用Fisher准则函数或者广义瑞利商等形式化表达式定量描述各类中心距离远近关系；另外还可以观察W-1B的最大特征值及其相应的特征向量，它们指示出了最佳划分超平面的方向以及权重分配情况[^4]。 ```python from sklearn.discriminant_analysis import LinearDiscriminantAnalysis as LDA lda = LDA(n_components=2) X_lda = lda.fit_transform(X, y) # 获取LDA组件系数 lda_components_ = lda.scalings_ print(lda_components_) ``` #### 综合考虑业务逻辑下的实际意义尽管上述统计学手段提供了量化视角下关于特征重要性的见解，但在某些应用场景里还需要结合领域专业知识做出最终评判。例如金融风控建模时，即便某个衍生指标看似微不足道，但如果能有效捕捉潜在风险信号则不可忽视其价值所在[^5]。