30、对抗机器学习与低功耗多模态数据分类网络

对抗机器学习与低功耗多模态数据分类网络

1. 对抗机器学习

在对抗机器学习领域，不同的攻击和防御技术有着各自的特点和表现。

1.1 攻击技术性能对比

一些攻击技术在性能和趋势上存在差异。例如，FGSM在某些情况下表现出色，能在一定程度上提升模型的鲁棒性，甚至对如CW和DF等先进的未知攻击也有一定的抵抗能力。而CW、JSMA和DF的表现和趋势较为相似，使用其中一种进行训练，能在一定程度上增强模型对另外两种攻击的鲁棒性，相较于无防御的分类器有明显优势。

在MNIST Digits和MNIST Fashion数据集上的测试结果如下：
- 基于FGSM的对抗训练 ：当DF的迭代次数分别为50、100和10时，对抗训练的准确率分别达到80%、84%和81%。在使用CW和JSMA进行测试时，也呈现出类似的趋势。
- 使用DF进行对抗训练并以FGSM测试 ：当ϵ分别为0.3、0.5和0.9时，准确率分别为29%、17%和11%。使用BIM和MIM进行测试时，也有相似的趋势。

从上述分析可知，基于FGSM的对抗训练能增强模型对未知攻击的鲁棒性。

1.2 攻击与防御技术特点

不同的攻击技术在复杂度和所需扰动方面有所不同。FGSM是一种低复杂度的对抗攻击，但需要较大的扰动才能实现对抗能力；而CW攻击则是一种较为复杂的攻击，所需的扰动较小。

在防御方面，对抗训练虽然需要对机器学习模型进行重新训练，但能在一定程度上抵御对抗攻击。不过，即使是经过FGSM重新训练的分类器，虽然对MIM和BIM等基于对抗样本