tyh70537的博客

一、引言基于决策的黑箱攻击是对抗攻击的一大类，优点是不需要目标模型的任何信息，只需要知道目标模型对于给定输入样本的决策结果。本文主要介绍基于决策的黑箱攻击的开山之作——Boundary Attack，论文为：Brendel W A R J. Decision-based adversarial attacks: reliable attacks against black-box machine learning models. arXiv preprint arXiv:1712.04248, 201

2014的文章Intriguing properties of neural networks引发了关于对抗样本研究的热潮。其实对抗样本的研究很早就有了，只是当时没有得到足够的重视，最早的文章应该是下面这篇，研究的是垃圾邮件过滤问题：N. Dalvi, P. Domingos, Mausam, S. Sanghai, D. Verma, Adversarial classification, in: Int’l Conf. Knowl. Disc. and Data Mining, 2004, pp.

对抗攻击的类型介绍根据攻击者对目标模型（被攻击的模型）的了解程度不同，已有的对抗攻击大致可以分为两类:白箱攻击和黑箱攻击。1 白箱攻击在白箱攻击算法中攻击者知道目标模型的所有信息，包括模型的训练集、类型、结构以及参数。白箱攻击考虑的是在一种对攻击者而言极度理想的情况，虽然高估了攻击者的能力，但是可以用来评估机器学习模型的安全性的下限。此外，白箱攻击能够和后面将会提到的“基于迁移的攻击”相结合，因此研究白箱攻击意义还是很大的。2 黑箱攻击在黑箱攻击中，攻击者不知道目标模型的内部细节，只能够观察目标模

Universal Aversarial Example介绍对抗样本（Adversarial Example）是近年来机器学习领域比较火的研究话题，这类样本可以说是机器学习模型的死敌，可以让目前性能最好的机器学习模型都丧失其分类能力本文旨在介绍更为特殊的一类对抗样本——通用对抗样本Universal Adversarial Example。定义欢迎使用Markdown编辑器你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这