TCN与CNN的区别

class unit_tcn(nn.Module):
    def __init__(self, in_channels, out_channels, kernel_size=9, stride=1):
        super(unit_tcn, self).__init__()
        pad = int((kernel_size - 1) / 2)
        self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=(kernel_size, 1), padding=(pad, 0),
                              stride=(stride, 1))
        self.bn = nn.BatchNorm2d(out_channels)
        self.relu = nn.ReLU()
        conv_init(self.conv)
        bn_init(self.bn, 1)
     
    def forward(self, x):
        x = self.bn(self.conv(x))
        return x

代码提取自2s-AGCN对TCN函数的定义。

unit_tcn 类实现的时间卷积网络单元(TCN)专门设计用于处理时间序列数据,它通过卷积层提取时间特征。TCN的设计有几个关键特性,使其在处理时间序列数据时与普通卷积层有所不同:

  1. 局部连接和权重共享

    • 与普通卷积层一样,TCN通过局部连接来提取时间特征,即每个卷积核只与输入数据的一个局部区域相乘。权重共享意味着同一个卷积核的权重在整个序列上是不变的,这有助于模型学习到时间序列中的局部模式。
  2. 扩张卷积(Dilated Convolution)

    • TCN使用扩张卷积来增加感受野,而不增加额外的参数。扩张卷积通过插入空格(即“扩张”)到卷积核中,从而在不增加计算量的情况下扩大卷积核的覆盖范围。这样,网络可以在更宽的上下文中捕捉时间特征。
  3. 因果关系(Causality)

    • TCN保持因果关系,即输出仅依赖于当前和过去的输入,不依赖未来的输入。这是通过在卷积操作中使用适当的填充和步长来实现的,确保输出的时间维度与输入相同或更小。
  4. 填充(Padding)

    • 在 unit_tcn 类中,计算填充大小 pad 以确保卷积操作不会改变时间序列数据的时间维度。这种填充通常是对称的,例如,如果 kernel_size 为9,则 pad 为4((kernel_size - 1) / 2),这样可以保持时间序列的长度不变。
  5. 步长(Stride)

    • TCN通常使用步长为1的卷积,以保持时间分辨率。这意味着卷积核每次移动一个时间单位,这样可以捕捉到更精细的时间特征。

与普通卷积层相比,TCN的这些特性使其在处理时间序列数据时具有以下优势:

  • 更长的有效感受野:通过扩张卷积,TCN可以在不增加参数和计算复杂度的情况下,构建一个非常长的有效感受野。
  • 参数效率:TCN使用权重共享,因此参数数量相对较少,这有助于提高模型的泛化能力。
  • 时间分辨率保持:TCN能够保持时间序列数据的时间分辨率,这对于时间序列预测和分类任务非常重要。

总的来说,unit_tcn 类通过设计来捕捉时间序列数据中的局部模式和长期依赖关系,这使得它在处理时间序列数据时比普通卷积层更加有效。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值