对抗攻击adversarial attacks

最新推荐文章于 2025-06-08 13:19:30 发布
原创 最新推荐文章于 2025-06-08 13:19:30 发布 · 1.2k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文综述了深度学习在计算机视觉领域面临的对抗性攻击威胁，探讨了不同类型的攻击方法及防御策略，为研究者提供了全面的视角。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

第一篇文章

Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey

未完待续

本该选择保存未草稿

【简易的黑盒对抗攻击】Simple Black-box Adversarial Attacks
风口IT猪的成长录
09-26 779
在计算机视觉领域，对抗攻击（adversarial attack）旨在通过向图片中添加人眼无法感知的噪音以欺骗诸如图像分类、目标识别等机器学习模型。如下图所示，输入原图像，图像分类器给出的结果为“是熊猫的概率为57.7%”，而在给原图像加上一段噪音后，结果变成了“是长臂猿的概率为99.3%”，但对于人类来说，这两张图片几乎是一模一样的。经噪音干扰后的图像被称为对抗样本对抗攻击的主要研究内容之一就是如何获得这种噪音来生成对抗样本。
Adversarial Attack (对抗攻击)
连理o的博客
09-19 5469
本文为李宏毅 2021 ML 课程的笔记 目录Basic ConceptsMotivationHow to Attack Basic Concepts Motivation Are networks robust to the inputs that are built to fool them? Useful for spam classification, malware detection, network intrusion detection, etc. How to Attack .
【Adversarial Attack in Object Detection】物理对抗攻击和防御
prinTao的博客
06-21 4271
在计算机视觉中，根据实现领域，对抗性攻击可以分为数字攻击和物理攻击。数字攻击是指在摄像头成像之后对数字像素进行攻击，物理攻击是指在摄像头成像之前对物理对象进行攻击。虽然数字攻击（如 PGD [ madry2017towards ]、 MI-FGSM [ dong2018boosting ]、 C&W [ carlini2017towards ]和 Deepfool [ moosavi2016deepfool ]等）对 DNN 模型表现良好，但它们很难在现实世界中实施。因为数字扰动通常是全局的和不显眼的，很难
基于 Transformer RoBERTa的情感分类任务实践总结之三——FGM
最新发布
大鹏的专栏
06-08 844
FGM本质思想：在训练阶段，主动给模型输入加一点"微小扰动"（adversarial perturbation），逼迫模型在 "坏情况" 下也能做出正确预测。
Adversarial Examples 对抗样本
热门推荐
心之所向
03-24 1万+
定义 深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出。当然这问题不仅出现在深度模型中，在其他机器学习模型也存在。“对抗样本”是安全方面非常好的一个议题，因为它代表了AI安全领域里的一种具体的问题。 如上样本x的label为熊猫，在对x添加部分干扰后，在人眼中仍然分为熊猫，但对深度模型...
对抗攻击常见方法汇总
qq_43367558的博客
12-03 1万+
将常见的对抗样本攻击方法汇总，并给出学习链接。
对抗机器学习论文-Towards Deep Learning Models Resistant to Adversarial Attacks（PGD）
m0_57572083的博客
10-16 1868
对抗机器学习论文-Towards Deep Learning Models Resistant to Adversarial Attacks（PGD）
基于图的对抗式攻击和防御（Adversarial attacks and defenses on graphs）.pdf
03-05
### 基于图的对抗式攻击和防御概述 #### 攻击与防御的分类 当前基于图的对抗式攻击与防御研究中，已形成多种攻击方法和防御策略。攻击方法的分类包括但不限于：结构攻击，即通过添加或移除少量的节点、边对图结构...
adversarial-attacks-pytorch:PyTorch对抗攻击的实现
05-12
对抗攻击PyTorch 是一个PyTorch库，其中包含对抗性攻击以生成对抗性示例。 干净的图像 对抗形象 目录 推荐的地点和配套 用法 :clipboard: 依存关系 火炬== 1.4.0 Python== 3.6 :hammer: 安装 pip install ...
【文献阅读 1】轨迹预测显示对抗攻击-AdvDO: Realistic Adversarial Attacks for Trajectory Prediction
qq_41803631的博客
02-27 1169
在自动驾驶领域，很多研究考虑了感知任务的对抗鲁棒性，但是轨迹分析的对抗鲁棒性研究较少。
Threat of Adversarial Attacks on Deep Learning in Computer Vision A Survey.pdf
09-18
文章回顾了设计对抗性攻击的研究工作，分析了这些攻击的存在，并提出了对抗这些攻击的防御方法。为了强调对抗性攻击在现实条件下是可能的，文章还单独回顾了在现实世界场景中评估对抗性攻击的研究成果。基于所回顾的...
EWR-PGD:白盒对抗攻击
05-24
高效的暖启动预计梯度下降（EWR-PGD） 我们提出了一种新的名为EWR-PGD的白盒对抗攻击方法，该方法超越了最新的攻击性能。 它比最新的方法更有效。 代码即将推出。 EWR-PGD和ODI-PGD的比较 当将模型降低到相同的精度时，EWR-PGD所需的重新启动次数明显少于ODI-PGD的重新启动次数。 EWR-PGD的速度大约是ODI-PGD的5倍。 图1.在10个最新的防御模型上，当EWR-PGD和ODI-PGD方法将模型降低到相同精度时，所需重启次数的比较（越低越好）。 这些模型可在线获得： 3个白盒排行榜上的结果 EWR-PGD在TRADES白盒MNIST和CIFAR-10排行榜上排名第一，将MNIST模型的准确性降低到92.52％，将CIFAR-10模型的准确性降低到52.95％。 EWR-PGD在MardyLab的CIFAR-10白名单排行榜中也排名第一，将其CI
【对抗性训练】FGM、AWP
藓类少女的博客
08-13 1723
FGM 是一种快速生成对抗样本的方法，通过对输入样本施加小的扰动，使得模型在原始样本上的预测信心大幅下降，从而产生对抗样本。FGM 的目标是找到一个微小的扰动，使得模型对样本的预测结果发生改变。FGM 是 FGSM（Fast Gradient Sign Method）的简化版本，它的原理相同，但省去了符号函数的应用。AWP 是一种通过扰动模型参数来提升模型鲁棒性的方法。与 FGM 不同，AWP 并不直接在输入样本上施加扰动，而是在模型参数空间中引入扰动。
Adversarial Attacks on deep learning阅读笔记
weixin_41617747的博客
03-14 2312
Adversarial Attacks on deep learning阅读笔记Adversarial Attacks on Deep-Learning Based Radio Signal Classification简单介绍 adversarial attackwhite-box algorithmBlack-box algorithmIntriguing properties of neur...
使用pgd和fgsm方法进行攻击并使用map方法评估
yjjjj11的博客
08-09 3114
攻击
基于梯度的PGD攻击
哈哈哈哈哈哈
11-02 1190
基于梯度的PGD攻击
Projected Gradient Descent（PGD）对抗训练
pythonwyq的博客
06-26 8559
PGD对抗训练代码
FGM对抗训练应用于NLP任务
qq_41898761的博客
05-28 1568
一、基础概念 为什么需要对抗训练： 在CV领域，我们需要通过对模型的对抗攻击和防御来增强模型的稳健型，比如在自动驾驶系统中，要防止模型因为一些随机噪声就将红灯识别为绿灯。在NLP领域，类似的对抗训练也是存在的，不过NLP中的对抗训练更多是作为一种正则化手段来提高模型的泛化能力 对抗： 一个是生成对抗网络（Generative Adversarial Networks，GAN），代表着一大类先进的生成模型； 另一个则是跟对抗攻击、对抗样本相关的领域，它跟GAN相关，但又很不一样，它主要关心的是模型在小扰动下
论文阅读笔记：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey
qq_36356761的博客
03-14 2951
论文阅读笔记：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey 要点 (universal adversarial perturbation)[1] 3D物理对抗样本 对抗样本生成 Box-constrained L-BFGS minρminρ\min_{\rho} Fast ...
adversarial attacks复现
01-20
为了复现实验中的对抗攻击，通常会选用一些经典的算法来生成对抗样本。下面以 Fast Gradient Sign Method (FGSM)[^1]为例展示如何编写 Python 代码实现这一过程。 #### 使用 FGSM 方法创建对抗样本 ```python ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值