class unit_tcn(nn.Module):
def __init__(self, in_channels, out_channels, kernel_size=9, stride=1):
super(unit_tcn, self).__init__()
pad = int((kernel_size - 1) / 2)
self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=(kernel_size, 1), padding=(pad, 0),
stride=(stride, 1))
self.bn = nn.BatchNorm2d(out_channels)
self.relu = nn.ReLU()
conv_init(self.conv)
bn_init(self.bn, 1)
def forward(self, x):
x = self.bn(self.conv(x))
return x
代码提取自2s-AGCN对TCN函数的定义。
unit_tcn
类实现的时间卷积网络单元(TCN)专门设计用于处理时间序列数据,它通过卷积层提取时间特征。TCN的设计有几个关键特性,使其在处理时间序列数据时与普通卷积层有所不同:
-
局部连接和权重共享:
- 与普通卷积层一样,TCN通过局部连接来提取时间特征,即每个卷积核只与输入数据的一个局部区域相乘。权重共享意味着同一个卷积核的权重在整个序列上是不变的,这有助于模型学习到时间序列中的局部模式。
-
扩张卷积(Dilated Convolution):
- TCN使用扩张卷积来增加感受野,而不增加额外的参数。扩张卷积通过插入空格(即“扩张”)到卷积核中,从而在不增加计算量的情况下扩大卷积核的覆盖范围。这样,网络可以在更宽的上下文中捕捉时间特征。
-
因果关系(Causality):
- TCN保持因果关系,即输出仅依赖于当前和过去的输入,不依赖未来的输入。这是通过在卷积操作中使用适当的填充和步长来实现的,确保输出的时间维度与输入相同或更小。
-
填充(Padding):
- 在
unit_tcn
类中,计算填充大小pad
以确保卷积操作不会改变时间序列数据的时间维度。这种填充通常是对称的,例如,如果kernel_size
为9,则pad
为4((kernel_size - 1) / 2
),这样可以保持时间序列的长度不变。
- 在
-
步长(Stride):
- TCN通常使用步长为1的卷积,以保持时间分辨率。这意味着卷积核每次移动一个时间单位,这样可以捕捉到更精细的时间特征。
与普通卷积层相比,TCN的这些特性使其在处理时间序列数据时具有以下优势:
- 更长的有效感受野:通过扩张卷积,TCN可以在不增加参数和计算复杂度的情况下,构建一个非常长的有效感受野。
- 参数效率:TCN使用权重共享,因此参数数量相对较少,这有助于提高模型的泛化能力。
- 时间分辨率保持:TCN能够保持时间序列数据的时间分辨率,这对于时间序列预测和分类任务非常重要。
总的来说,unit_tcn
类通过设计来捕捉时间序列数据中的局部模式和长期依赖关系,这使得它在处理时间序列数据时比普通卷积层更加有效。