[读论文]Adversarial Examples: Attacks and Defenses for Deep Learning

最新推荐文章于 2024-09-22 21:32:13 发布
最新推荐文章于 2024-09-22 21:32:13 发布
阅读量3.9k 收藏 22
点赞数 8
CC 4.0 BY-SA版权
分类专栏： ARTS
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/DonaldSu/article/details/89890876
该博客围绕深度学习展开，聚焦对抗样本的攻击与防御相关内容。虽具体内容缺失，但可知核心围绕此信息技术领域关键问题，对理解深度学习安全有重要意义。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

因故删除

《Adversarial Examples: Attacks and Defenses for Deep Learning》阅读笔记
VnK_的博客
05-06 1067
4/4 本周综合阅读了图像检索领域的一些关键文献以及常用技术，本来准备写一篇CBIR领域的学习概述，奈何有些文献还没有读完，自己要写的概述还处在半成品状态（对于特征embedding还有一些不懂，cv领域一些知识也还要补充），想认真写完之后再上交。所以先就本星期阅览的关于AML领域的相关知识做一下笔记。 1.《Adversarial Examples: Attacks and Defe...
ENSEMBLE ADVERSARIAL TRAINING: ATTACKS AND DEFENSES（ICLR 2018）
u013775900的博客
07-24 2216
ENSEMBLE ADVERSARIAL TRAINING: ATTACKS AND DEFENSES 后续工作（2020年4月新增） 从2017年NIPS对抗攻击防御大赛开始，许多后续工作提出了更复杂的黑盒的transfer-based 攻击。通过结合额外的优化技术（例如动量（Dong et al.，2018）、数据增强（Xie et al.，2019b；Dong et al.，2019）或残差网络“跳跃连接”的梯度（Wu et al.，2020）），这些攻击大大提高了对抗样本的可迁移性。 虽.
Adversarial Examples: Attacks and Defenses for Deep Learning
02-20
2019 review and taxonomy on adversarial examples and defenses
Adversarial Examples：Attacks and Defenses for Deep Learning Networks
D_Low的博客
11-12 3836
文章目录摘要一、引言二、相关概念及背景介绍1.深度学习A.深度学习的主要概念B.深度神经网络的结构C.深度学习标准数据集机器学习中的对抗性样本及对策三、对抗性样本生成方法的分类1.威胁模型A.对抗伪造性①假阳性：②伪阴性：B.对抗者对模型的了解程度①白盒攻击②黑盒攻击C.对抗特异性①定向攻击②非定向攻击D.攻击频率①一次性攻击②循环攻击2.扰动A.扰动范围①个体攻击②通用攻击B.扰动限制①最优化扰动②约束扰动C.lp测量法3.基准A.数据集B.受害者模型四、对抗性样本生成方法五、应对对抗性样本的对策六、对抗
【深度学习】李宏毅2021/2022春深度学习课程笔记 - Adversarial Attack（恶意攻击）
热门推荐
知不足而奋进，望远山而前行
01-08 2万+
是有可能的，如下图所示，我们在训练资料中给图片加入一些人类观察不到的杂讯，用这些被加了杂讯的图片训练出来的模型，在看到特定的照片时就会识别错误。假设我们知道要被攻击的模型的训练资料，那么我们可以用一样的训练资料训练出一个和要被攻击的模型很相似的模型，然后用白盒攻击的方法攻击相似的模型，再用对相似模型攻击有效的带有杂讯的数据去攻击真正要攻击的模型，这时候成功率就会比较高。还有更离谱的，在加了另外的杂讯后，模型居然认为图片中的是 Keyboard，由此可见，恶意攻击对模型的影响真的是非常大呀！
Adversarial Examples 对抗样本
心之所向
03-24 1万+
定义 深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出。当然这问题不仅出现在深度模型中，在其他机器学习模型也存在。“对抗样本”是安全方面非常好的一个议题，因为它代表了AI安全领域里的一种具体的问题。 如上样本x的label为熊猫，在对x添加部分干扰后，在人眼中仍然分为熊猫，但对深度模型...
论文理解——Audio Adversarial Examples:Targeted Attacks on Speech-to-Text
qq_42372980的博客
05-06 3619
0-Abstract 本文构建了有关语音识别的定向语音对抗样本，给定任意音频波形，可以产生99.9%相似的另一个音频波形，且可以转录为所选择的任何短语。作者将基于白盒迭代优化攻击应用于DeepSpeech模型（端到端语音识别），实验显示，它具有100%的成功率。 1-Introduction 1.1Existing work 当前对对抗样本的研究大多基于图像空间，包括图像分类、图像生成模型...
对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
Enjoy_endless
12-09 3369
准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。 内容不是纯翻译，包括自己的一些注解和总结，论文的结构、组织及相关描述，以及一些英语句子和相关工作的摘抄(可以用于相关领域论文的写作及扩展)。 平时只是阅读论文，有很多知识意识不到，当你真正去着手写的时候，发现写完之后可能只有自己明白做了个啥。包括从组织、结构、描述上等等很多方面都具有很多问题。另一个是对于专业术语、...
对抗样本方向（Adversarial Examples）2018-2020年最新论文调研
huitailangyz的博客
06-15 1万+
调研范围 2018NIPS、2019NIPS、2018ECCV、2019ICCV、2019CVPR、2020CVPR、2019ICML、2019ICLR、2020ICLR 2018NIPS Contamination Attacks and Mitigation in Multi-Party Machine Learning（防御） 作者：Jamie Hayes(Univeristy College London) Olga Ohrimenko(Microsoft Research) 摘要：Machine
论文笔记| Deflecting Adversarial Attacks with Pixel Deflection 对抗样本 防御方法
claire12579的博客
05-18 1208
# pixel deflection 笔记 ## 1.方法概要 随机提取图像中的像素点，以r边心距来替换像素点周围的像素。发现在干净的原图上，原始正确分类并未受到影响，而对于带有对抗样本的图，打乱像素能够使得分类重回正确。 大多数攻击都是在整个图像中搜索扰动，不考虑图像内容的位置，而分类器在存在对象的区域中激活率更高。 lou等使用了对象坐标掩饰背景区来防御。 针对luo的方法局限性（一是需要坐标作为ground-truth；二是背景全部隐去有损分类效果，分类器对特征物和背景同时出现的依赖），解决方法：采.
2019CVPR有关对抗样本的论文总结（防御篇一）
ilalaaa的博客
08-23 2444
目录攻击防御 攻击 2019CVPR-Parametric Noise Injection Trainable Randomness to Improve Deep Neural Network Robustness Against Adversarial Attack. 参数噪声注入（PNI）： 可训练的随机性以提高DNN的对抗鲁棒性 背景 用高斯噪声训练网络是实现模型正则化的一种有效技术，从而提高了模型对输入变化的鲁棒性。 在这种经典方法的启发下，我们探索利用噪声注入的正则化特性来提高DNN对对
论文笔记： 对抗样本 CVPR2021 Enhance Transferability of Adversarial Attacks through Variance Tuning
weixin_43184082的博客
08-23 3625
这里写自定义目录标题Abstract 摘要1. Introduction 引言背景引入2. 相关工作 Related Work 论文作者： Xiaosen Wang Kun He 作者单位： School of Computer Science and Technology, Huazhong University of Science and Technology 作者邮箱： {xiaosen,brooklet60}@hust.edu.cn 源代码：https://github.com/JHL-HUS
对抗样例论文学习一
下一站十字路口
12-25 737
对抗样例的主要主要思想就是在神经网络的输入端加入一个不以觉察的小扰动，但是在经过神经网络预测后造成误判。 这样的样本叫做 adversarial example（对抗样本）。 以下主要针对对抗样例的一些paper进行解读： 第一篇对抗样例文章： Christian Szegedy等人在2014年发表一篇文章，Intriguing properties of neural networks
对抗攻击的详细解析：原理、方法与挑战
最新发布
qq_22841387的博客
09-22 4084
在传统的机器学习任务中，训练集和测试集往往来自 **相同的数据分布 $P$** 。然而，对抗攻击通过在输入数据上引入极其微小的扰动，使得输入数据的分布发生了细微的改变。这种变化对于人类而言几乎无法感知，但对于模型，可能引发极大差异，甚至导致分类结果的完全错误。模型的这种脆弱性源自它们在高维特征空间中对某些输入特征的过度敏感性。
对抗样本论文总结
weixin_33770878的博客
11-14 650
[1]Karparthy博客 Breaking Linear Classifiers on ImageNet http://karpathy.github.io/2015/03/30/breaking-convnets/ [2]Christian等人在ICLR2014最先提出adversarial examples的论文Intriguing properties of neural ne...
了解《对抗样本》必看的6篇论文【附打包下载地址】
weixin_48294000的博客
08-09 874
论文推荐“《SFFAI 77期-对抗样本专题》来自西安电子科技大学的李茂森同学推荐的文章主要关注于对抗样本领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”关注文章公众号...
【论文学习】Adversarial Examples on Graph Data: Deep Insights into Attack and Defense论文学习
qq_38391210的博客
01-05 3693
摘要 类似GCN这样的图深度学习模型近几年咋一些图数据任务上取得了很好的效果。与其他的深度学习模型类似，图深度学习模型通常也会遭受到对抗攻击。但是，跟非图数据相比，图数据中的离散特征，图连接以及对于扰动的不可感知的不同定义给图对抗攻击带来了许多挑战。在这篇文章中，作者提出了攻击和防御的方法。在攻击的时候，作者发现图数据的这些离散特性可以通过引入连续梯度来解决。这个连续梯度可以反映出对图中的某一条边或者某一个特征做干扰带来的影响（注意，这里的特征也必须是离散的）。在做防御的时候，作者发现通过对抗攻击得到的图跟
安全文章研读：深度学习对抗攻击防御策略的一些实现
weixin_43466027的博客
06-02 1588
0x01 太长不看 深度学习在表现优异的同时，还存在易受攻击的缺陷。多数防御策略只能应对特定的攻击方法，普适性比较低，另外这些防御策略多为全局过滤扰动，浪费了大量算力。所以，本文： 认为对抗扰动中存在敏感点，敏感点的波动影响深度学习模型的分类。我们提出一种仅过滤对抗样本中敏感点的防御策略。 提出了一种基于差分进化算法寻找敏感点的方法，采用黑盒的方式去寻找对抗样本中的敏感点，避免了对深度学习模型的结构、参数等的依赖，可以适用于未知模型细节时的防御，增加了普适性。用邻域平均的方法把敏感点过滤掉。 0x02
【博士论文】深度学习的对抗攻击与鲁棒性测评
数据派THU
12-22 1184
来源：专知 本文为论文介绍，建议阅读5分钟 深度学习鲁棒性的不足已被证实会对一些与安全密切相关的领域带来威胁。来自清华大学的董胤蓬博士论文，入选2022年度“CCF优秀博士学位论文奖”初评名单！https://www.ccf.org.cn/Focus/2022-12-08/781244.shtml以深度学习为代表的人工智能技术在计算机视觉、语音识别等众多领域均取 得了显著进展，规模化应用已现曙光。...
Towards Deep Learning Models Resistant to Adversarial Attacks
04-03
Adversarial attacks are a major concern in the field of deep learning as they can cause misclassification and undermine the reliability of deep learning models. In recent years, researchers have ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值