[读论文]Adversarial Examples: Attacks and Defenses for Deep Learning

最新推荐文章于 2024-09-22 21:32:13 发布

Donald Su_

最新推荐文章于 2024-09-22 21:32:13 发布

阅读量3.9k

点赞数 8

CC 4.0 BY-SA版权

分类专栏： ARTS

本文链接：https://blog.youkuaiyun.com/DonaldSu/article/details/89890876

ARTS 专栏收录该内容

10 篇文章

订阅专栏

该博客围绕深度学习展开，聚焦对抗样本的攻击与防御相关内容。虽具体内容缺失，但可知核心围绕此信息技术领域关键问题，对理解深度学习安全有重要意义。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

因故删除

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Donald Su_

关注关注

8
点赞
踩
22

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

《Adversarial Examples: Attacks and Defenses for Deep Learning》阅读笔记

VnK_的博客

05-06

1068

4/4 本周综合阅读了图像检索领域的一些关键文献以及常用技术，本来准备写一篇CBIR领域的学习概述，奈何有些文献还没有读完，自己要写的概述还处在半成品状态（对于特征embedding还有一些不懂，cv领域一些知识也还要补充），想认真写完之后再上交。所以先就本星期阅览的关于AML领域的相关知识做一下笔记。 1.《Adversarial Examples: Attacks and Defe...

ENSEMBLE ADVERSARIAL TRAINING: ATTACKS AND DEFENSES（ICLR 2018）

u013775900的博客

07-24

2216

ENSEMBLE ADVERSARIAL TRAINING: ATTACKS AND DEFENSES 后续工作（2020年4月新增）从2017年NIPS对抗攻击防御大赛开始，许多后续工作提出了更复杂的黑盒的transfer-based 攻击。通过结合额外的优化技术（例如动量（Dong et al.，2018）、数据增强（Xie et al.，2019b；Dong et al.，2019）或残差网络“跳跃连接”的梯度（Wu et al.，2020）），这些攻击大大提高了对抗样本的可迁移性。虽.

参与评论您还未登录，请先登录后发表或查看评论

Adversarial Examples: Attacks and Defenses for Deep Learning

02-20

2019 review and taxonomy on adversarial examples and defenses

Adversarial Examples：Attacks and Defenses for Deep Learning Networks

D_Low的博客

11-12

3836

【深度学习】李宏毅2021/2022春深度学习课程笔记 - Adversarial Attack（恶意攻击）

热门推荐

知不足而奋进，望远山而前行

01-08

2万+

是有可能的，如下图所示，我们在训练资料中给图片加入一些人类观察不到的杂讯，用这些被加了杂讯的图片训练出来的模型，在看到特定的照片时就会识别错误。假设我们知道要被攻击的模型的训练资料，那么我们可以用一样的训练资料训练出一个和要被攻击的模型很相似的模型，然后用白盒攻击的方法攻击相似的模型，再用对相似模型攻击有效的带有杂讯的数据去攻击真正要攻击的模型，这时候成功率就会比较高。还有更离谱的，在加了另外的杂讯后，模型居然认为图片中的是 Keyboard，由此可见，恶意攻击对模型的影响真的是非常大呀！

Adversarial Examples 对抗样本

心之所向

03-24

1万+

定义深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出。当然这问题不仅出现在深度模型中，在其他机器学习模型也存在。“对抗样本”是安全方面非常好的一个议题，因为它代表了AI安全领域里的一种具体的问题。如上样本x的label为熊猫，在对x添加部分干扰后，在人眼中仍然分为熊猫，但对深度模型...

论文理解——Audio Adversarial Examples:Targeted Attacks on Speech-to-Text

qq_42372980的博客

05-06

3619

0-Abstract 本文构建了有关语音识别的定向语音对抗样本，给定任意音频波形，可以产生99.9%相似的另一个音频波形，且可以转录为所选择的任何短语。作者将基于白盒迭代优化攻击应用于DeepSpeech模型（端到端语音识别），实验显示，它具有100%的成功率。 1-Introduction 1.1Existing work 当前对对抗样本的研究大多基于图像空间，包括图像分类、图像生成模型...

对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review

Enjoy_endless

12-09

3370

对抗样本方向（Adversarial Examples）2018-2020年最新论文调研

huitailangyz的博客

06-15

1万+

调研范围 2018NIPS、2019NIPS、2018ECCV、2019ICCV、2019CVPR、2020CVPR、2019ICML、2019ICLR、2020ICLR 2018NIPS Contamination Attacks and Mitigation in Multi-Party Machine Learning（防御）作者：Jamie Hayes(Univeristy College London) Olga Ohrimenko(Microsoft Research) 摘要：Machine

论文笔记| Deflecting Adversarial Attacks with Pixel Deflection 对抗样本防御方法

claire12579的博客

05-18

1208

# pixel deflection 笔记 ## 1.方法概要随机提取图像中的像素点，以r边心距来替换像素点周围的像素。发现在干净的原图上，原始正确分类并未受到影响，而对于带有对抗样本的图，打乱像素能够使得分类重回正确。大多数攻击都是在整个图像中搜索扰动，不考虑图像内容的位置，而分类器在存在对象的区域中激活率更高。 lou等使用了对象坐标掩饰背景区来防御。针对luo的方法局限性（一是需要坐标作为ground-truth；二是背景全部隐去有损分类效果，分类器对特征物和背景同时出现的依赖），解决方法：采.

2019CVPR有关对抗样本的论文总结（防御篇一）

ilalaaa的博客

08-23

2447

目录攻击防御攻击 2019CVPR-Parametric Noise Injection Trainable Randomness to Improve Deep Neural Network Robustness Against Adversarial Attack. 参数噪声注入（PNI）：可训练的随机性以提高DNN的对抗鲁棒性背景用高斯噪声训练网络是实现模型正则化的一种有效技术，从而提高了模型对输入变化的鲁棒性。在这种经典方法的启发下，我们探索利用噪声注入的正则化特性来提高DNN对对

论文笔记：对抗样本 CVPR2021 Enhance Transferability of Adversarial Attacks through Variance Tuning

weixin_43184082的博客

08-23

3625

这里写自定义目录标题Abstract 摘要1. Introduction 引言背景引入2. 相关工作 Related Work 论文作者： Xiaosen Wang Kun He 作者单位： School of Computer Science and Technology, Huazhong University of Science and Technology 作者邮箱： {xiaosen,brooklet60}@hust.edu.cn 源代码：https://github.com/JHL-HUS

对抗样例论文学习一

下一站十字路口

12-25

737

对抗样例的主要主要思想就是在神经网络的输入端加入一个不以觉察的小扰动，但是在经过神经网络预测后造成误判。这样的样本叫做 adversarial example（对抗样本）。以下主要针对对抗样例的一些paper进行解读：第一篇对抗样例文章： Christian Szegedy等人在2014年发表一篇文章，Intriguing properties of neural networks

对抗攻击的详细解析：原理、方法与挑战

最新发布

qq_22841387的博客

09-22

4089

在传统的机器学习任务中，训练集和测试集往往来自 **相同的数据分布 $P$** 。然而，对抗攻击通过在输入数据上引入极其微小的扰动，使得输入数据的分布发生了细微的改变。这种变化对于人类而言几乎无法感知，但对于模型，可能引发极大差异，甚至导致分类结果的完全错误。模型的这种脆弱性源自它们在高维特征空间中对某些输入特征的过度敏感性。

对抗样本论文总结

weixin_33770878的博客

11-14

650

[1]Karparthy博客 Breaking Linear Classifiers on ImageNet http://karpathy.github.io/2015/03/30/breaking-convnets/ [2]Christian等人在ICLR2014最先提出adversarial examples的论文Intriguing properties of neural ne...

了解《对抗样本》必看的6篇论文【附打包下载地址】

weixin_48294000的博客

08-09

874

【论文学习】Adversarial Examples on Graph Data: Deep Insights into Attack and Defense论文学习

qq_38391210的博客

01-05

3693

摘要类似GCN这样的图深度学习模型近几年咋一些图数据任务上取得了很好的效果。与其他的深度学习模型类似，图深度学习模型通常也会遭受到对抗攻击。但是，跟非图数据相比，图数据中的离散特征，图连接以及对于扰动的不可感知的不同定义给图对抗攻击带来了许多挑战。在这篇文章中，作者提出了攻击和防御的方法。在攻击的时候，作者发现图数据的这些离散特性可以通过引入连续梯度来解决。这个连续梯度可以反映出对图中的某一条边或者某一个特征做干扰带来的影响（注意，这里的特征也必须是离散的）。在做防御的时候，作者发现通过对抗攻击得到的图跟

安全文章研读：深度学习对抗攻击防御策略的一些实现

weixin_43466027的博客

06-02

1588

0x01 太长不看深度学习在表现优异的同时，还存在易受攻击的缺陷。多数防御策略只能应对特定的攻击方法，普适性比较低，另外这些防御策略多为全局过滤扰动，浪费了大量算力。所以，本文：认为对抗扰动中存在敏感点，敏感点的波动影响深度学习模型的分类。我们提出一种仅过滤对抗样本中敏感点的防御策略。提出了一种基于差分进化算法寻找敏感点的方法，采用黑盒的方式去寻找对抗样本中的敏感点，避免了对深度学习模型的结构、参数等的依赖，可以适用于未知模型细节时的防御，增加了普适性。用邻域平均的方法把敏感点过滤掉。 0x02

【博士论文】深度学习的对抗攻击与鲁棒性测评

数据派THU

12-22

1184

来源：专知本文为论文介绍，建议阅读5分钟深度学习鲁棒性的不足已被证实会对一些与安全密切相关的领域带来威胁。来自清华大学的董胤蓬博士论文，入选2022年度“CCF优秀博士学位论文奖”初评名单！https://www.ccf.org.cn/Focus/2022-12-08/781244.shtml以深度学习为代表的人工智能技术在计算机视觉、语音识别等众多领域均取得了显著进展，规模化应用已现曙光。...

Towards Deep Learning Models Resistant to Adversarial Attacks

04-03

Adversarial attacks are a major concern in the field of deep learning as they can cause misclassification and undermine the reliability of deep learning models. In recent years, researchers have proposed several techniques to improve the robustness of deep learning models against adversarial attacks. Here are some of the approaches: 1. Adversarial training: This involves generating adversarial examples during training and using them to augment the training data. This helps the model learn to be more robust to adversarial attacks. 2. Defensive distillation: This is a technique that involves training a second model to mimic the behavior of the original model. The second model is then used to make predictions, making it more difficult for an adversary to generate adversarial examples that can fool the model. 3. Feature squeezing: This involves converting the input data to a lower dimensionality, making it more difficult for an adversary to generate adversarial examples. 4. Gradient masking: This involves adding noise to the gradients during training to prevent an adversary from estimating the gradients accurately and generating adversarial examples. 5. Adversarial detection: This involves training a separate model to detect adversarial examples and reject them before they can be used to fool the main model. 6. Model compression: This involves reducing the complexity of the model, making it more difficult for an adversary to generate adversarial examples. In conclusion, improving the robustness of deep learning models against adversarial attacks is an active area of research. Researchers are continually developing new techniques and approaches to make deep learning models more resistant to adversarial attacks.