36、对抗环境下线性分类器的安全性与稀疏性研究

对抗环境下线性分类器的安全性与稀疏性研究

在机器学习领域，线性分类器的安全性和稀疏性一直是重要的研究方向。在对抗环境中，攻击者可能会对输入数据进行修改以逃避检测，因此提高线性分类器的安全性变得尤为关键。同时，在移动和嵌入式系统中，稀疏权重由于其在处理时间、内存需求和决策可解释性方面的优势，也备受关注。

1. 研究背景

在对抗环境下，线性分类器面临着逃避攻击的威胁。以往的研究提出使用更均匀分布的特征权重来提高分类器的安全性，但这种方法缺乏对其有效性和最优性条件的清晰理解。此外，在实际应用中，稀疏权重更受青睐。

为了深入研究线性分类器的安全性，我们借鉴了近期关于分类器正则化与鲁棒优化问题的研究成果。逃避攻击本质上可以看作是一种噪声，影响着原始数据。将这些研究成果与对抗机器学习相结合，有助于我们理解针对不同类型对抗噪声（攻击）的最优正则化器。

2. 攻击者模型

为了严谨地分析针对机器学习的可能攻击并制定有效的对策，我们需要一个正式的攻击者模型。该模型基于攻击者的目标、对分类器的了解以及操纵输入数据的能力来定义。
- 攻击者目标 ：我们主要关注逃避攻击，即攻击者试图修改单个恶意样本，使其被分类器误判为合法样本。
- 攻击者知识 ：攻击者对目标分类器的了解程度不同，可能具有有限或完全的知识。在本研究中，我们聚焦于具有完全知识（最坏情况）的攻击。
- 攻击者能力 ：在逃避攻击中，攻击者只能修改恶意实例，并且修改通常会产生成本。此外，任意修改可能会使实例失去恶意性质，因此需要一个与应用相关的约束。常见的约束包