出处:2023 KDD
论文链接:https://arxiv.org/abs/2306.10347
代码链接:https://github.com/DAMO-DI-ML/KDD2023-DCDetector
一 提出动机
采用 “对比表征学习”,杜绝 “重建 ” 导致难以检测 “段异常” 的弊端,前两种方法均包含 “重建”
贡献:
1. 提出了基于双重注意力的对比学习结构(dual-branch attention)【通道独立,多尺度】
2. 训练只需 “对比表征”(非传统),无需重构误差
二 Methodology
1. 整体架构
2. 预处理
3. 表征对比学习框架(Dual Attention Contrastive Structure)
1. 求 query 与 key:
2. 计算注意力权重:
3. 多头(H)注意力拼接:
上采样:(便于后续的 “表征比较”,恢复成一样形状的时间序列数据)
重复上采样操作不可避免地导致信息丢失。为更好保留原始数据信息,引入“多尺度”设计:
多尺度:设置不同大小的 patch,重复操作,最终求和
4. 表征比较 + 异常检测
损失函数(KL散度):
异常检测:
三 实验结果
针对 “段模式” 异常,本方法相较于 "AnomalyTrans",异常分数设置更为合理: