10、物联网安全中基于可解释变压器的异常检测

物联网安全中基于可解释变压器的异常检测

1. 相关工作

在物联网领域，众多研究已对异常检测（AD）展开探索，涵盖了多种方法。其中，像Cook等人展示了专家对时间序列方法的见解。当前大多数先进的AD技术严重依赖深度神经网络。值得注意的是，Vaswani等人引入的变压器在计算机视觉、自然语言处理（NLP）和语音处理等多个领域展现出强大的建模能力。

在时间序列分析方面，由于编码器 - 解码器中的注意力机制，将变压器应用于时间序列建模受到了研究人员的越来越多关注。变压器能够在长期预测中取得显著成果。以下是一些相关的时间序列AD模型：
| 模型提出者 | 模型名称 | 模型特点 |
| — | — | — |
| Chen等人 | GTA | 可表示不同传感器的交集，自主学习和融合拓扑图结构 |
| Zhang等人 | TransAnomaly | 融合VAE和变压器，用于多变量时间序列AD |
| Tuli等人 | TranAD | 包含深度变压器和诊断模型，学习非不规则数据的固有分布，用重建误差突出异常，但不能有效编码不同数据维度之间的关系 |
| Zeng等人 | - | 将GAN和变压器结合到高维时间序列AD领域，赋予变压器对抗技术 |
| Yadav等人 | - | 设计混合变压器架构，在多变量时间序列建模数据中表现有效 |
| Alamr等人 | - | 使用无监督的基于变压器的方法评估和检测心电图（ECG）信号中的异常 |
| Kumar等人 | - | 利用具有时空注意力机制的变压器，提出用于传感数据的动态上下文捕获模型 |

2. 物联网与安全挑战

物联网由通过