DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHI

最新推荐文章于 2024-04-19 09:09:57 发布
转载 最新推荐文章于 2024-04-19 09:09:57 发布 · 304 阅读 · 0 ·
CC 4.0 BY-SA版权
原文链接：https://www.jianshu.com/p/d71bd7546a85
文章标签：

#深度学习 #计算机视觉

CV误会了我
关注
论文那些事—DECISION-BASED ADVERSARIAL ATTACKS:RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS
shuweishuwei的博客
11-11 3187
DECISION-BASED ADVERSARIAL ATTACKS:RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS（ICLR2018） 1、摘要/背景 目前用于生成对抗扰动的大多数方法要么依赖于详细的模型信息（基于梯度的攻击)，要么依赖于置信度分数，例如类概率（基于分数的攻击)，这两种能力在大多数现实世界场景中都不可用。在许多此类情况下，人们目前需要退回到基于迁移的攻击，这些攻击依赖于繁琐的替代模型，而且需要访问训练数据并且可以防.
基于决策的黑箱攻击——Boundary Attack
tyh70537的博客
05-20 4153
一、引言 基于决策的黑箱攻击是对抗攻击的一大类，优点是不需要目标模型的任何信息，只需要知道目标模型对于给定输入样本的决策结果。本文主要介绍基于决策的黑箱攻击的开山之作——Boundary Attack，论文为： Brendel W A R J. Decision-based adversarial attacks: reliable attacks against black-box machine learning models. arXiv preprint arXiv:1712.04248, 201
DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS 论文解读
kking_edc的博客
11-10 1791
Abstract 这篇文章中我们介绍了Boundary Attack, a decision-based attack that starts from a large adversarial perturbation and then seeks to reduce the perturbation while staying adversarial。这种攻击在概念上十分简单，requires close to no hyperparameter tuning，并不依赖于替代模型 and is compe
decision-based adversarial attacks_reliable attacks against black-box machine learning models
qq_32925101的博客
12-19 2094
Decision-based adversarial attacks: Reliable attacks against black-box machine learning models Decision-based adversarial attacks: Reliable attacks against black-box machine learning models 本文提出了一种boundary-based的攻击方法，本方法不需要模型的梯度信息或score信息，因此可进行白盒和黑盒攻击。本方法还
IQA-CNN-Adversarial-Attacks：针对基于CNN的图像分类（数据集）的对抗性攻击的感知评估
02-22
IQA-CNN-Adversarial-攻击 基于CNN的图像分类的对抗性攻击的感知评估（数据集） 介绍 深度神经网络（DNN）最近获得了最先进的性能，并在许多机器学习任务中取得了重大进展。 但是，最近的研究表明，DNN容易受到对抗性攻击。 例如，在图像分类域中，向输入图像添加较小的不可察觉的扰动足以愚弄DNN并导致错误分类。 被扰动的图像（称为对抗示例）在视觉上应尽可能接近原始图像。 但是，文献中提出的所有用于生成对抗性示例的工作都使用Lp范数（L0，L2和Linf）作为距离度量来量化原始图像和对抗性示例之间的相似性。 但是，Lp规范与人类判断没有关联，因此它们不适合可靠地评估对抗性示例的感知相似性/保真度。 因此，我们提出了一个用于对抗示例视觉逼真度评估的数据库。 我们评估了15个可以替代Lp规范的最新全参考图像保真度评估指标的性能。 该数据库以及主观分数可公开获得，以帮助设计对抗性示
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition
weixin_45184581的博客
11-17 1600
近年来，由于深度卷积神经网络（CNN）的巨大改进，人脸识别取得了显着进展。然而，深度 CNN 容易受到对抗性示例的影响，这可能会在具有安全敏感目的的现实世界人脸识别应用程序中造成致命的后果。对抗性攻击被广泛研究，因为它们可以在部署之前识别模型的漏洞。在本文中，我们评估了最先进的人脸识别模型在基于决策的黑盒攻击设置中的鲁棒性，其中攻击者无法访问模型参数和梯度，而只能获取硬标签通过向目标模型发送查询来进行预测。这种攻击设置在现实世界的人脸识别系统中更实用。
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition针对人脸识别系统的高效黑盒对抗攻击算法
GAN_CVer的博客
12-02 2698
背景 在图 1 示例中，我们用同样的一个人脸识别模型（Arcface [1]）对两幅看起来一模一样的人脸图像进行识别，但是得到了完全不同的两个识别结果。这是为什么呢？原因是右图的人脸区域被加上了人眼无法察觉的恶意噪声，专门用于欺骗人脸识别模型。这种现象叫做对抗样本，即针对某种特定的模型（例如图像分类模型 ResNet [2]），在正常样本（例如 2D 图像，3D 点云等）上加入微小的噪声，使得模型...
Gradient-based Adversarial Attacks against Text Transformers - 论文翻译
最新发布
anniewwy的博客
04-19 1517
我们提出了第一个针对 transformer 模型的基于梯度的通用对抗性攻击。我们没有搜索单个对抗性示例，而是搜索由连续值的矩阵参数化的对抗性示例的分布，从而实现基于梯度的优化。我们凭实验说明，我们的白盒攻击在各种自然语言任务上实现了最先进的攻击性能，在匹配不可感知性——如每次自动化和人工评估——的对抗性成功率方面优于之前的工作。此外，我们展示了一个强大的黑盒迁移攻击，通过从对抗性分布中采样来实现，它匹配或超过了现有方法，而只需要硬标签输出。
RAN4IQA: Restorative Adversarial Nets for No-Reference Image Quality Assessment
11-02
无参考图像质量评价，深度学习，生成对抗网络，adversarial net (RAN), a GAN-based model for no-reference image quality assessment (NR-IQA).
AAAI 2021上与【对抗攻击（Adversarial Attack）】相关的论文（六篇）
02-28
基于对抗攻击（Adversarial Attack）相关的接受paper不少，这几年比如 对抗攻击、基于图数据的对抗攻击、NLP、CV上的攻击防御等等一些列前沿的方法和应用受到了很多人的关注，也是当前比较火的topic。
论文阅读——看了两篇医学图像质量评价（IQA）的论文
无风而起的博客
10-06 2191
【A CNN BASED NEUROBIOLOGY INSPIRED APPROACH FOR RETINAL IMAGE QUALITY ASSESSMENT】 IBM Research - Australia 2016 论文主要用CNN进行视网膜图像质量评估。网络结构图如下： 数据集是20471760的101张视网膜PNG彩色图像，作者将其切割为30000个150150的patch，来自同一张图像patch标签相同， 进行图像质量二分类。由于数据集没有反例，作者通过施加高斯白噪声、椒盐噪声和散斑噪声
对抗攻击文献阅读7
qq_37972486的博客
03-08 167
Universal adversarial perturbations SVD 奇异值分解
论文笔记：Adversarial Net与IQA
God_68的博客
09-18 2722
论文一： 2018年CVPR: Hallucinated-IQA: No-Reference Image Quality Assessment via Adversarial Learning @article{Lin2018Hallucinated, title={Hallucinated-IQA: No-Reference Image Quality Assessment via Ad...
CVPR 2019 | 针对人脸识别系统的高效黑盒对抗攻击算法
Paper weekly
12-01 8953
本工作提出了一种高效的基于决策的黑盒对抗攻击算法，在业内第一次以完全黑盒的方式成功地实现对人脸识别系统的对抗攻击。本工作由腾讯 AI Lab 主导，与清华大学，香港科技大学联合完成，发表...
论文阅读 Decision-based Black-box Adversarial Attacks
Struggling_orange的博客
11-22 2717
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition 这篇文章主要做了以下几个工作： 1.提出了一个在基于决策的黑盒场景下的进化攻击方法，可以对搜索方向的局部几何进行建模，同时降低搜索空间的维度。 2.利用基于决策的黑盒攻击方法，对几种最先进的人脸识别模型（SphereFace,...
Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记
XP and Altoria
11-25 2590
Procedural Noise Adversarial Examples for Black-Box Attacks on Deep Neural Networks论文笔记 0. 概述 如今一些深度神经网络对于一些对抗性样本(Adversarial sample)是弱势的, 对抗性样本就是指我们对输入进行特定的改变, 通过原有的学习算法最终导致整个网络内部出现误差, 这属于攻击的一种, 然而, ...
“黑盒”下的攻击实现，真实世界的“人脸识别”遭遇危险！
喜欢打酱油的老鸟
04-26 5480
https://www.toutiao.com/a6683765601862681092/ 作为最重要的计算机视觉任务之一，人脸识别技术（Facial recognition）基于深度神经网络（CNN）提取人脸特征来实现。 近年来，由于深度神经网络（CNN）的巨大进步，人脸识别技术取得了显著的发展，被广泛使用于身份认证的实际应用中，比如：手机解锁、闸机认证，甚至是金融业务中身份...
（干货）ICLR论文自评分——论文名和翻译
xunan003的博客
12-07 4587
英文名： Certifiable Distributional Robustness with Principled Adversarial Training 9.0 On the Convergence of Adam and Beyond 8.5 Emergence of grid-like representations by training recurrent
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值