35、AIMOS：人工智能的变质测试及其工业应用

AIMOS：人工智能的变质测试及其工业应用

1. 变质属性与测试原理

变质属性依赖于一组特定的函数：
- 输入变换函数 (f_i) : (f_i : X \to X)，它对输入空间进行变换，可通过对抗攻击、对称操作、旋转、添加噪声等方式对输入产生扰动。例如，若 (f_i) 用于特定规则 (R1)，则 (f_i(a) = b)。
- 输出变换函数 (f_o) : (f_o : Y \to Y)，代表输出的预期变换，可能是恒等变换（如检查分类是否不变时）、对称变换等。
- 推理变换函数 (f_{pred}) : (f_{pred} : (X \to Y) \to (X \to Y))，它对模型的推理函数进行变换，不过多数情况下为恒等函数，即推理时保持原函数不变。

在数学上，对于列表 (L) 和 (L_i)，有 (\forall L_1, \ldots, L_n, L = \bigcup_{i=1}^{n} L_i \to S’(o, L) \leq \sum_{i=1}^{n} S’(o, L_i))，其中 (\bigcup) 为列表连接操作。

2. AIMOS 工具介绍

AIMOS（AI Metamorphism Observing Software）是用于使用变质属性测试给定人工智能模型的工具，采用黑盒方法，将模型视为推理函数，不依赖模型的内在特征。

• 实现语言与兼容性 ：用 Python 实现，便于与众多 AI 框架（如 TensorFlow/