对抗攻击

最新推荐文章于 2025-07-17 14:33:19 发布
原创 最新推荐文章于 2025-07-17 14:33:19 发布 · 1.5k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习

AI人工智能图像处理中的对抗攻击防御
AI天才研究院
05-18 887
深度学习模型在图像分类、目标检测等任务中展现出卓越性能，但近年来研究发现，向输入图像添加人类难以察觉的微小扰动（对抗扰动），即可导致模型做出错误预测。这种对抗攻击对自动驾驶、医学影像诊断等安全敏感领域构成直接威胁。本文旨在系统性解析对抗攻击的技术原理，深入探讨防御算法的设计思想与工程实现，涵盖从基础概念到前沿研究的完整技术栈，为构建鲁棒的图像识别系统提供理论支撑与实践指导。核心概念：定义对抗攻击类型，构建攻击-防御技术体系数学建模：推导攻击算法的优化目标与防御策略的理论基础算法实现。
黑盒攻击的分类_高效的基于决策的黑箱对抗攻击的人脸识别
weixin_39984105的博客
01-08 1373
引言针对当前的深度神经网络在人脸识别方面的应用，存在很多不安全的隐患，作者提出了一种针对深度神经网络的黑盒攻击攻击方法，提出了一种新的基于遗传算法的攻击方法，数据集：Wild (LFW) and MegaFace实验结果表明：这种攻击方法即使在限制对模型的查询次数也很有效，并且将其用于真实的人脸识别环境中，也攻击成功了。1、介绍本文的主要贡献（1）提出了一个在基于决策的黑盒场景下的进化攻击方法，可...
tensorflow2.0+python3.7.4实现FGSM对抗攻击代码
08-31
win10+tensorflow2.0+python3.7.4实现FGSM对抗攻击代码
Triangle Attack: A Query-efficient Decision-based Adversarial Attack
weixin_45184581的博客
11-29 1028
基于决策的攻击对实际应用程序构成了严重的威胁，因为它将目标模型视为一个黑箱，只访问硬预测标签。最近已经做出了很大的努力来减少查询的数量;然而，现有的基于决策的攻击仍然需要数千个查询才能生成高质量的对抗示例。在这项工作中，我们发现一个良性样本，当前和下一个对抗样本可以自然地在子空间中为任何迭代攻击构建一个三角形。基于正弦定律，我们提出了一种新的三角形攻击(TA)，利用任何三角形中较长的边总是与较大的角相对的几何信息来优化扰动。
对抗性攻击（Adversarial Attack）
最新发布
m0_71755344的博客
07-17 907
对抗性攻击是针对机器学习模型（尤其是深度学习模型）的一类攻击方法，其核心是通过对模型的输入（如图像、文本、音频等）添加人类难以察觉的微小扰动，导致模型做出错误预测（如将 “猫” 误判为 “狗”、将交通标志 “停止” 误判为 “直行”）。这类攻击揭示了机器学习模型的脆弱性，也推动了模型鲁棒性研究的发展。
模型反演攻击：Neural Network Inversion in Adversarial Setting via Background Knowledge Alignment
zyz20001028的博客
05-04 6421
模型反演攻击：Neural Network Inversion in Adversarial Setting via Background Knowledge Alignment 背景 定义： 旨在通过模型的预测输出获取关于模型的训练数据或者测试数据的信息 方法 此前的模型反演攻击的方法主要有以下两类： Optimization-based approach： 把反演问题变为一个优化问题，通过梯度构建出最佳的对应于目标类的数据x^\widehat{x}x，目标是使得Fw(x)F_{w}(x)Fw​(x)
【对抗攻击论文笔记】Decision-Based Adversarial Attack With Frequency Mixup
ji_meng的博客
05-11 2051
今天分享的论文是来自IEEE的 Decision-Based Adversarial Attack With Frequency Mixup，首先来看一下这篇论文的motivation 先来做个简单介绍吧，我们常说的对抗攻击分为黑盒攻击和白盒攻击，黑盒攻击可以分为基于迁移的攻击，和基于查询的攻击。基于查询的攻击一般依赖于替代模型，并且需要访问训练数据。基于查询的攻击还可以进一步分为基于分数的攻击和基于决策的攻击。在给定输入的情况下，目标模型计算每个可用类别的概率，并将概率最高的类别(即TOP-1概率)作为最
高效的基于决策的人脸识别黑匣子对抗攻击
03-08
高效的基于决策的人脸识别黑匣子对抗攻击
CIFAR-10数据集中无限制对抗攻击竞赛的赛事背景及实施步骤-可实现的-有问题请联系博主，博主会第一时间回复！！！
12-07
内容概要：本文介绍了关于CIFAR-10数据集中开展的一场无限制对抗攻击竞赛的具体背景、规则、时间和流程。对抗攻击是通过向正常输入数据（例如图像）中增加细微干扰来误导模型分类的能力，从而引发机器学习系统的安全...
BUAA人工智能安全导论：Cifar-10数字世界无限制对抗攻击竞赛.zip
10-22
标题 "BUAA人工智能安全导论：Cifar-10数字世界无限制对抗攻击竞赛" 提供的信息表明，这个压缩包可能包含的是一个关于人工智能安全，特别是针对深度学习模型的对抗性攻击竞赛的相关材料。CIFAR-10是常用的计算机视觉...
图神经网络对抗攻击与防御
12-23
在《图神经网络对抗攻击与防御》的主题中，主要探讨了两种类型的攻击：投毒攻击和逃逸攻击。投毒攻击发生在模型训练阶段，攻击者可以通过篡改训练数据来破坏模型的性能。而逃逸攻击则是在模型训练完成后或测试阶段，...
AA_experiment:对抗攻击实验
03-22
在IT行业中，对抗攻击实验是安全领域的一个重要研究方向，特别是在机器学习和人工智能的应用中。"AA_experiment: 对抗攻击实验"很可能是一个关于探索如何利用特定的输入（对抗性样本）来误导机器学习模型的项目。这...
对抗生成-tensorflow
08-27
基础模型，可以改进 基础模型，
GAN生成式对抗攻击代码
09-13
生成式对抗攻击。GAN代码。有解释，比较不错的初学者入门学习资资料。
【论文翻译】高效的基于决策的人脸识别黑盒对抗攻击
Mrong1013967的博客
06-07 2140
摘要 近年来，由于深度卷积神经网络的巨大进步，人脸识别取得了显著的进展。然而，深层中枢神经系统容易受到对抗性例子的影响，这可能在具有安全敏感目的的现实世界人脸识别应用中导致致命的后果。敌对攻击被广泛研究，因为它们可以在部署模型之前识别模型的漏洞。在本文中，我们评估了最先进的人脸识别模型在基于决策的黑盒攻击环境中的鲁棒性，在黑盒攻击环境中，攻击者无法访问模型参数和梯度，只能通过向目标模型发送查询来获得硬标签预测。这种攻击设置在现实世界的人脸识别系统中更为实用。为了提高以往方法的效率，我们提出了一种进化攻击算
[work] 什么是对抗攻击
This is bill的专属博客
12-03 4683
谷歌大脑(Google Brain)最近的研究表明，任何机器学习分类器都可能被欺骗，给出不正确的预测。Google Brain是Google内部用于训练大规模深度神经网络的构架，它为用户提供了方便的API。用户能够很容易的在大规模机群上训练神经网络模型。现在的应用几乎遍及Google的所有领域，包括android的语音识别系统，广告推荐系统，图像识别系统，自动驾驶系统。 目前人工智能和机器学习技...
DeepGlint AI编程练习赛——对抗性攻击(详解，python)
weixin_45344267的博客
02-05 964
DeepGlint AI编程练习赛——对抗性攻击(详解，python) 做这道题 ，只想做自己明明不那么优秀 ，还那么自信！各位大哥大姐，只有40分，40分，40分，不喜勿喷 这道题，我差点差点没背过气来，做了千万遍，最后发现可以用函数。好了 言归正传。 先来一遍正向传播吧， Y= AX + B 题目把B去掉了， 感谢出题人 好感谢完之后 ，我们先看下 是不是 [1, 8] [8, 4] , [4,10] 的鬼样子呢？ 那必须是？看不懂吗？ 那就是输出一个10维的向量啊，用于分类。 好，那接下来写函数吧
对抗性攻击_深入研究对抗性攻击
weixin_26750481的博客
08-27 1386
对抗性攻击In this article, we will be talking about how Deep Neural Networks are not at their full potential yet, and they are vulnerable to some specially crafted inputs called adversarial examples, which...
近十年视觉任务中的对抗攻击研究综述
m0_63171455的博客
11-04 1958
对抗性攻击通过操纵输入数据来削弱模型的可用性和完整性，构成了机器学习推理过程中的重大安全威胁。随着大型视觉-语言模型（LVLMs）的出现，新的攻击向量如认知偏差、提示注入、和越狱技术也逐渐浮现。理解这些攻击对于开发更强健的系统和揭示神经网络的内部机制至关重要。然而，现有的综述通常侧重于攻击分类，缺乏全面深入的分析。当前研究界亟需：1）对对抗性、可迁移性和泛化性的一致洞见；2）对现有方法的详细评估；3）基于动机驱动的攻击分类；以及4）整合传统和LVLM攻击的整体视角。
AAAI 2021: 六篇探讨对抗攻击前沿技术的论文
资源摘要信息:"在这次AAAI 2021会议上，有六篇与对抗攻击（Adversarial Attack）相关的论文被接受。对抗攻击是当前人工智能领域的一个热点话题，涉及到深度学习模型的安全性和鲁棒性问题。以下是对这些论文的详细...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值