Transformer-BiGRU、Transformer、CNN-BiGRU、BiGRU、CNN五模型多变量时序预测-优快云博客

✅作者简介：热爱科研的Matlab仿真开发者，擅长数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。

🍎 往期回顾关注个人主页：Matlab科研工作室

🍊个人信条：格物致知,完整Matlab代码及仿真咨询内容私信。

🔥 内容介绍

在当今数据驱动的时代，多变量时序预测扮演着至关重要的角色。无论是能源领域的电力负荷预测、金融市场的股价波动分析，还是交通系统的车流量预估，都离不开对多变量时序数据的精准预测。而在这一领域，Transformer - BiGRU、Transformer、CNN - BiGRU、BiGRU、CNN 这五种模型凭借各自的独特优势，成为了众多研究者和从业者关注的焦点。它们究竟谁能在多变量时序预测中脱颖而出？今天，我们就来深入剖析这五种模型，看看它们在这场 “预测争霸赛” 中各有怎样的表现。

模型原理大揭秘

Transformer - BiGRU

Transformer - BiGRU 模型可谓是强强联合的典范。Transformer 的自注意力机制如同拥有一双 “火眼金睛”，能够在多变量时序数据中精准捕捉不同变量、不同时间步之间的依赖关系，哪怕这些关系相隔较远也不在话下。而 BiGRU 则像是一位经验丰富的时序分析师，它通过正向和反向两个方向对序列数据进行处理，能够全面且细致地捕捉到数据中的时序信息，无论是短期的波动还是长期的趋势都能很好地把握。当这两者结合在一起，Transformer 负责挖掘那些复杂且隐蔽的长距离依赖，BiGRU 则专注于梳理时序上的前后关联，优势互补，让模型在处理多变量时序数据时如虎添翼。

Transformer

Transformer 模型在多变量时序预测中，其核心武器就是自注意力机制。这种机制就像是为模型配备了一个智能筛选器，它能够根据不同变量和时间步的重要程度，分配不同的注意力权重。在多变量时序数据中，变量之间的关系往往错综复杂，有些变量在某些时间步对预测结果影响巨大，而有些则影响甚微。Transformer 通过自注意力机制，能够精准地识别出这些关键信息，从而有效地捕捉到长距离依赖和复杂的变量关系，为精准预测打下坚实的基础。

CNN - BiGRU

CNN - BiGRU 模型是局部特征提取与时序依赖处理的完美结合。CNN 就像一把精密的手术刀，它利用卷积核对多变量时序数据进行 “切割”，能够快速且准确地提取出数据中的局部特征和短期模式，比如数据在某个时间段内的突然波动或者局部的规律变化。而 BiGRU 则像是一条灵活的链条，它能够将 CNN 提取到的局部特征串联起来，深入处理其中的时间依赖关系，从而让模型不仅能看到局部的细节，还能把握整体的时序趋势。

BiGRU

BiGRU 模型通过正向和反向两个方向的循环神经网络来处理序列数据，就如同有两位观察者，一位从过去看到现在，另一位从现在看向过去，然后将两者的观察结果综合起来。这种双向处理的方式，使得模型能够更全面地理解时序数据中的上下文信息，大大增强了对长期依赖关系的捕捉能力。在多变量时序预测中，它能够很好地利用历史数据中的长期趋势来预测未来的变化。

CNN

CNN 模型在多变量时序预测中主要依靠卷积核的作用。卷积核就像一个滑动的窗口，在多变量时序数据上不断滑动，从而提取出各个窗口内的局部特征。这些局部特征可能是不同变量在短期内的协同变化模式，也可能是某个变量自身的短期波动特征。虽然 CNN 在处理长距离时序依赖方面稍显不足，但在提取局部特征和短期模式上却有着高效且精准的优势。

实验设置

数据集选择与预处理

本次实验选用的是某能源监测平台的多变量时序数据集，该数据集包含了温度、湿度、风速、光照强度以及电力负荷等多个变量，时间跨度为 1 年，采样频率为每小时一次。在数据预处理阶段，首先对缺失值进行处理，采用线性插值法填补少量缺失的数据；对于异常值，通过 Z - score 方法检测并剔除超出 3 倍标准差的数据。然后对所有变量进行标准化处理，将数据转换到 [0,1] 区间，以消除不同变量量纲的影响。最后按照 7:1:2 的比例将数据集划分为训练集、验证集和测试集。

评价指标确定

本次实验选择 RMSE（均方根误差）、MAE（平均绝对误差）和 R²（决定系数）作为评价指标。RMSE 是预测值与真实值差值的平方和的平均值的平方根，它对较大的误差更为敏感，能够很好地反映预测值与真实值之间的整体偏差程度；MAE 是预测值与真实值绝对差值的平均值，它直观地反映了预测的平均误差大小；R² 用于衡量模型对数据变异的解释能力，其值越接近 1，说明模型对数据的拟合效果越好。这三个指标从不同角度反映了模型的预测性能，能够全面地评估各模型的表现。

模型训练与调优

在模型搭建过程中，五种模型均采用 PyTorch 框架实现。Transformer - BiGRU、Transformer、CNN - BiGRU、BiGRU、CNN 模型的优化器均选用 Adam，损失函数采用均方误差损失函数（MSE）。超参数调优采用网格搜索法，对于 Transformer 相关模型，主要调整自注意力头数、隐藏层维度和学习率等参数；对于 CNN 相关模型，重点调整卷积核大小、卷积层数和学习率；对于 BiGRU 模型，则主要优化隐藏层维度和学习率。通过在验证集上的表现来确定各模型的最佳超参数组合。