37、线性分类器的安全性、稀疏性与语义分割多任务多域学习

线性分类器的安全性、稀疏性与语义分割多任务多域学习

线性分类器在对抗环境中的安全性与稀疏性

不同攻击下的分类器表现

在对抗环境中，线性分类器面临着不同类型的攻击，如密集攻击和稀疏攻击。通过简单的投影梯度下降算法解决相关问题后得到的修改数字图像显示，密集攻击仅会使图像产生轻微模糊效果，而稀疏攻击则会造成更明显的视觉伪影。通过比较相关函数值，我们发现无穷范数和八角形支持向量机（SVM）在稀疏攻击下更安全，而标准SVM和弹性网络SVM在密集攻击下更安全。具体情况如下表所示：
| 攻击类型 | 更安全的分类器 |
| ---- | ---- |
| 稀疏攻击 | 无穷范数和八角形SVM |
| 密集攻击 | 标准SVM和弹性网络SVM |

正则化器的选择

在实际的对抗应用中，选择合适的正则化器至关重要。在稀疏攻击的情况下，无穷范数SVM的安全性可能会大幅超过标准SVM。因为标准SVM在安全任务中广泛使用，但往往没有充分考虑对抗攻击的风险。此外，还提出了一种新的八角形正则化器，它能在稀疏规避攻击下，以轻微的安全性损失换取稀疏性，这在对稀疏性和测试时计算效率要求较高的应用中非常有用。当密集攻击更有可能发生时，标准SVM可能是一个不错的折衷方案。如果此时还需要稀疏性，可以使用弹性网络SVM以一定的安全性为代价来换取稀疏性。

稀疏攻击问题的求解

对于稀疏攻击，相关问题可归结为在线性约束下最小化线性函数，这可以被表述为一个线性规划问题，并使用最先进的线性求解器来解决。

语义分割的多任务多域学习

语义场景解析的现状与挑战