14、人工智能与机器学习在网络安全中的应用：何去何从？

人工智能与机器学习在网络安全中的应用：何去何从？

1. 安全漏洞示例

在网络安全领域，存在一些与人工智能和机器学习相关的安全漏洞，以下是两个典型示例：
- CVE - 2023 - 25668 ：攻击者使用早于2.12.0或2.11.1版本的Tensorflow时，可访问堆内存，从而导致系统崩溃或远程代码执行。
- CVE - 2023 - 25676 ：当运行早于2.12.0和2.11.1版本且启用XLA时，tf.raw_ops.ParallelConcat在参数“shape”的秩不大于零时，会因空指针解引用而出现段错误。

2. 安全与AI/ML的交叉点

从两个方面探讨安全与AI/ML的交叉点：
- AI/ML在网络安全中的应用 ：分析其在网络入侵检测中的应用、相关风险以及应对策略。
- 用于网络入侵检测的AI/ML系统的安全性 ：研究这些系统自身面临的安全问题。

3. AI/ML在网络安全中的应用

随着AI/ML在安全领域的应用日益广泛，我们需要了解高级对手带来的威胁。机器学习与网络安全应用的结合增加了攻击面，因此开发基于AI/ML的网络安全分类器以抵御对抗性攻击至关重要。

3.1 对抗性机器学习（AML）

对抗性机器学习指攻击者使分类器（即模型）误分类的能力。主要关注两种攻击类型：
- 逃避攻击 ：攻击者在预测时对样本进行扰动，导致分类器误分类。