18、时间卷积网络与Transformer在异常检测中的应用

时间卷积网络与Transformer在异常检测中的应用

时间卷积网络（TCN）异常检测

在异常检测领域，无监督异常检测是一种重要的方法。以时间卷积网络（TCN）为例，我们可以通过一系列步骤实现异常检测。

首先，我们进行了一个无监督异常检测的示例。选取原始序列的一个子集，使用滚动窗口训练模型以输出预测结果，接着计算一个阈值，用于识别异常。整个过程中，没有使用任何训练标签。

接下来，我们将实现编码器 - 解码器时间卷积网络（ED - TCN），它本质上是将TCN与自编码器的概念相结合，用于无监督异常检测。

ED - TCN模型结构

ED - TCN模型在编码和解码阶段都由因果卷积层组成，且结构始终保持因果性。下面详细介绍其编码阶段：
1. 输入层 ：从最底层的输入层开始，对输入进行因果卷积，作为第一个卷积层的一部分。
2. 第一个最大池化层 ：第一个卷积层（conv_1）的输出作为第一个最大池化层（pool_1）的输入。池化层会强调其经过区域的最大值，通过选择最大值来概括输入。
3. 后续卷积和池化 ：接着进行另一组因果卷积和最大池化操作，涉及conv_2和pool_2层。在数据通过编码阶段时，其大小会逐渐减小，这是自编码器的一个典型特征。
4. 密集层 ：在编码和解码阶段之间有一个密集层，它代表编码阶段的最终编码输出，同时也是解码阶段的编码输入。

在解码阶段，每个上采样层连接到一个一维卷积层，上采样层和一维卷积层的组合会重复多次，