AidLux智慧交通AI安全之对抗攻击算法

AI对抗攻击算法划分

目前主流对抗 攻击算法的总体分支与逻辑：

 

        其中，当算法模型参数和训练数据等信息被攻击者所掌握，并且攻击者在此基础上进行的针对性攻击称为白盒攻击。白盒攻击主要分为基于梯度的攻击，基于优化的攻击以及基于GAN的攻击。而在对算 法模型的结构和参数一无所知，甚至相关训练数据也一无所知的情况下，进行攻击的过程称为黑盒攻击。 黑盒攻击主要分为基于迁移的攻击和基于查询的攻击两大类。

基于迁移的攻击逻辑由白盒攻击延伸而来，一般会有一个白盒模型作为替身模型（surrogate）进行攻 击，而生成的对抗样本一般也会对其他模型有一定的迁移攻击性。 基于查询的攻击其主要是通过查询黑盒模型的输出信息，对黑盒模型进行直接的攻击，但完成整个攻击流程往往需要大量的查询，容易被模型所有者检测到异常。再者，基于此我们再介绍两个有趣的攻击策略有目标攻击（targeted attack）：通过攻击使得模型将特定数据错误输出到指定的label上。 无目标攻击：通过攻击使得模型将特定数据错误输出到除真实label外的其他任何label上。类模型，针对有目标攻击，我们通过生成对抗样本，想让分类模型将猫的类别错判成狗。而无目标攻 击，并不限定特定类别，只要模型发生错判即可。

（一）白盒攻击