Adversarial Attack

最新推荐文章于 2025-07-17 14:33:19 发布
原创 最新推荐文章于 2025-07-17 14:33:19 发布 · 1.4k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文深入探讨了对抗性攻击的概念，包括白盒攻击与黑盒攻击的定义与实现。解析了通过优化图片使网络输出偏离正确结果的策略，以及在不同约束条件下的实施方法。同时，文章还讨论了在无法获取目标网络结构与参数的情况下，如何利用代理网络进行攻击。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Adversarial Attack

Attack

尝试解释：在某个维度上，该类别的分布过于狭小陡峭，以至于稍微移动一点就到了别的不相关类别。

White-box attack

loss func

对图片进行optimition,使得网络输出远离正确输出，接近指定输出（Targeted Attack）。在一定约束下（更改不要太明显以至被发现）
在这里插入图片描述

constraint定义与实现

与原图片的距离函数，可选用l2-norm\L-infinity等衡量方式
实现时，更新得到的x如果不符合constraint，则选择符合constraint的点中最靠近x的那个。

Black-Box Attack

不可获得网络架构与参数 θ θ θ

可获得训练样本

训练一个proxy network模拟target network，攻击proxy network，得到的图片也可攻击target network.

不可获得训练样本

不断输入数据，得到n个输入-输出pair训练proxy network。

More

  • 一个相同的杂讯或许可以扰乱许多图片的判断
  • 可以对网络进行reprogramming，让它去做其他任务
  • 还可以攻击视频和文字
PyTorch深度学习实战（30）——对抗攻击(Adversarial Attack)
盼小辉丶的博客
12-27 5277
研究表明，深度学习模型容易受到输入数据中细微扰动的影响，从而导致模型输出错误的预测。在图像领域，此类扰动通常很小对于人眼而言甚至无法察觉，但它们却能够愚弄深度学习模型。针对深度学习模型的这种对抗攻击，限制了深度学习的成功在更广泛领域的应用。本节中，我们将介绍对抗攻击 (Adversarial Attack) 的基本概念，并使用 PyTorch 实现对抗攻击生成可欺骗神经网络的图像。
物理对抗攻击的十年调查——Physical Adversarial Attack Meets Computer Vision: A Decade Survey
黑心萝卜三条杠的博客
08-12 2434
尽管DNN已经在计算机视觉领域内有很大成就，但是仍然存在对对抗性攻击的脆弱性问题，也就是说将具有复杂扰动的样本输入到DNN中可能会对其性能造成灾难性后果。提炼了物理对抗攻击的四个步骤；揭示了携带对抗性扰动的人工制品在物理世界的普遍作用；引入了新的术语——对抗介质，其主要指携带对抗性扰动的人工制品；提出了hiPAA评估指标， 即有效性、隐蔽性、鲁棒性、实用性、美观性与经济性；对现有的物理对抗攻击方法进行了全面的比较，并从实际应用的角度讨论了这些方法的局限性、挑战和潜在方向，以利于未来的研究。
Adversarial-Attack
05-08
对抗攻击 PoC通过针对CNN（卷积神经网络）模型的对抗性攻击来推导识别域中的错误 作者：郑德贤 状态：完成 核心目标 使用CNN模型中的先前学习的数据（ 이미지넷 ）构建图像分类模型（完整） 通过对抗性攻击代码推导CNN模型的识别域中的错误（完整） 使用的技术 卷积神经网络（CNN） 对抗攻击 要求 Python 3x 麻木 凯拉斯 皮尔 用法 # Prediction > python CNN.py # Adversarial Attack > python hack.py
对抗攻击（Adversarial Attack）
热门推荐
ji_meng的博客
04-22 1万+
对抗攻击
Adversarial Attack (对抗攻击)
连理o的博客
09-19 5469
本文为李宏毅 2021 ML 课程的笔记 目录Basic ConceptsMotivationHow to Attack Basic Concepts Motivation Are networks robust to the inputs that are built to fool them? Useful for spam classification, malware detection, network intrusion detection, etc. How to Attack .
Adversarial Attack.pdf
06-27
首先，“Adversarial Attack”即对抗性攻击是机器学习领域中，尤其在深度学习和模型安全方面研究的一个热点问题。对抗性攻击利用了模型尤其是深度学习模型的脆弱性，通过对输入数据进行精心设计的微小扰动，使得模型...
Adversarial Attack and Defense on Graph Data - A Survey
02-05
针对图数据的对抗攻击和防御技术综述.we aim to survey existing adversarial attack strategies on graph data and provide an unified problem formulation which can cover all current adversarial learning ...
基于Adversarial Attack的问题等价性判别比赛.zip
09-30
【标题】"基于Adversarial Attack的问题等价性判别比赛" 这个比赛项目的核心是研究Adversarial Attack在问题等价性判断中的应用。Adversarial Attack，即对抗性攻击，是一种针对机器学习模型的策略，它通过向输入...
AAAI 2021上与【对抗攻击（Adversarial Attack）】相关的论文（六篇）
02-28
基于对抗攻击（Adversarial Attack）相关的接受paper不少，这几年比如 对抗攻击、基于图数据的对抗攻击、NLP、CV上的攻击防御等等一些列前沿的方法和应用受到了很多人的关注，也是当前比较火的topic。
IQA-CNN-Adversarial-Attacks：针对基于CNN的图像分类（数据集）的对抗性攻击的感知评估
02-22
IQA-CNN-Adversarial-攻击 基于CNN的图像分类的对抗性攻击的感知评估（数据集） 介绍 深度神经网络（DNN）最近获得了最先进的性能，并在许多机器学习任务中取得了重大进展。 但是，最近的研究表明，DNN容易受到对抗性攻击。 例如，在图像分类域中，向输入图像添加较小的不可察觉的扰动足以愚弄DNN并导致错误分类。 被扰动的图像（称为对抗示例）在视觉上应尽可能接近原始图像。 但是，文献中提出的所有用于生成对抗性示例的工作都使用Lp范数（L0，L2和Linf）作为距离度量来量化原始图像和对抗性示例之间的相似性。 但是，Lp规范与人类判断没有关联，因此它们不适合可靠地评估对抗性示例的感知相似性/保真度。 因此，我们提出了一个用于对抗示例视觉逼真度评估的数据库。 我们评估了15个可以替代Lp规范的最新全参考图像保真度评估指标的性能。 该数据库以及主观分数可公开获得，以帮助设计对抗性示
Targeted-Adversarial-Attack:一种有针对性的对抗攻击方法，赢得了NIPS 2017有针对性的攻击攻击竞赛
05-16
有针对性的专业攻击 介绍 该存储库包含提交给的前1名提交者的代码。 方法 我们使用动量迭代法来生成对抗性示例。 我们总结了算法（CVPR 2018，Spotlight）。 我们注意到针对性攻击几乎没有可传递性。 这一发现不仅来自我们的实验，而且来自于本次比赛的其他提交者。 我们认为，很难为具有大量类（即1000个）的ImageNet数据集找到可传递的对抗性示例，因为两个类之间的决策边界对于不同的模型可能不会显示出相同的属性。 引文 如果您在研究中使用动量迭代法进行攻击，请考虑引用 @inproceedings{dong2018boosting, title={Boosting Adversarial Attacks with Momentum}, author={Dong, Yinpeng and Liao, Fangzhou and Pang, Tianyu and Su,
对抗性攻击（Adversarial Attack）
最新发布
m0_71755344的博客
07-17 818
对抗性攻击是针对机器学习模型（尤其是深度学习模型）的一类攻击方法，其核心是通过对模型的输入（如图像、文本、音频等）添加人类难以察觉的微小扰动，导致模型做出错误预测（如将 “猫” 误判为 “狗”、将交通标志 “停止” 误判为 “直行”）。这类攻击揭示了机器学习模型的脆弱性，也推动了模型鲁棒性研究的发展。
【李宏毅机器学习】adversarial attack 对抗攻击
发现问题，并解决问题，批判性思维
10-13 2819
对抗攻击：DL算法存在着严重的安全隐患，攻击者可以通过给良性样本添加特定噪声而轻易地欺骗DL模型，并且通常不会被人发现。攻击者利用人的视觉/听觉无法感知的扰动，足以使正常训练的模型输出置信度很高的错误预测。被认为是在生产中部署DL模型之前的巨大障碍。 根据威胁模型可以将现有的对抗性攻击分为白盒、灰盒和黑盒攻击。这3种模型之间的差异在于攻击者了解的信息。 在白盒攻击的威胁模型中，假定攻击者具有关于其目标模型的完整知识，包括模型体系结构和参数。因此攻击者可以通过任何方式直接在目标模型上制作对抗性样本。 在灰盒威
对抗攻击Adversarial Attack
JxufeCarol的博客
10-22 2010
对抗样本的攻击主要分为无特定目标攻击（即只要求分类器对对抗样本错误分类，而不特定要求错误分类到哪一类）和特定目标攻击（即要求分类器将对抗样本错误分类到特定类别）。
​李宏毅机器学习——对抗攻击Adversarial Attack
iwill323的博客
10-27 3464
​李宏毅机器学习——对抗攻击Adversarial Attack
Pig变飞机？AI为什么这么蠢 | Adversarial Attack
AI科技大本营
03-17 1581
整理 | Jane责编 | Jane出品 | AI科技大本营（公众号id：rgznai100）【编者按】这篇文章的起意有两点：一是由刚刚过去的 315 打假日，智能语音机...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值