50、深度神经网络后门攻击防御与联邦学习鲁棒性增强

深度神经网络后门攻击防御与联邦学习鲁棒性增强

在当今的数字时代，深度神经网络（DNN）和联邦学习（FL）在各个领域都发挥着重要作用。然而，它们也面临着各种安全威胁，如后门攻击和拜占庭攻击。本文将深入探讨如何通过分层特征分析来防御后门攻击，以及如何使用数据无关的模型剪枝技术来增强联邦学习的鲁棒性。

一、通过分层特征分析防御后门攻击

1. 评估指标与主要结果

   • 评估指标 ：采用真阳性率（TPR）和假阳性率（FPR）来评估各种防御方法的性能。TPR是检测到的中毒输入数量与总中毒输入数量的比值，FPR是被错误检测为中毒的良性输入数量与总良性输入数量的比值。
   • 主要结果 ：在CIFAR - 10和GTSRB数据集上的实验结果表明，现有防御方法在许多情况下存在TPR低或FPR高的问题，尤其是在GTSRB数据集上。而我们提出的方法在两个数据集上对所有攻击都有良好的检测性能。
     | 数据集 | 攻击类型 | RS | ShPd | FP | AC | STRIP | SCAn | 我们的方法 |
     | — | — | — | — | — | — | — | — | — |
     | CIFAR - 10 | BadNets、Blended等多种攻击 | TPR和FPR表现各异 | TPR和FPR表现各异 | TPR和FPR表现各异 | TPR和FPR表现各异 | TPR和FPR表现各异 | TPR和FPR表现各异 | TPR高且FPR低 |
     | GTSRB | BadNets、Blended等