Transformer-LSTM预测 | 基于Transformer-LSTM的多变量单步时间序列预测Matlab实现

原创于 2025-10-27 17:03:36 发布 · 987 阅读

21 ·

CC 4.0 BY-SA版权

文章标签：

#transformer #lstm #matlab

✅作者简介：热爱科研的Matlab仿真开发者，擅长数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。

🍎 往期回顾关注个人主页：Matlab科研工作室

🍊个人信条：格物致知,完整Matlab代码获取及仿真咨询内容私信。

🔥 内容介绍

在旋转机械健康管理中，轴承的运行状态需通过多变量时间序列（如振动加速度、轴承温度、电机转速、负载电流）综合表征，单一变量预测易因信息缺失导致预警滞后。传统时间序列模型（如 ARIMA、单一 LSTM）难以同时捕捉多变量间的长期依赖与局部动态特征，而 Transformer 的自注意力机制擅长挖掘变量间的全局关联，LSTM 则对局部时序波动的拟合更优。本文提出 “Transformer-LSTM 融合模型”，以轴承故障预警中的 “多变量单步预测”（如基于前 1 小时的振动、温度等数据预测下 1 分钟的振动幅值）为目标，系统拆解模型构建流程，验证其在多变量时序预测中的优势。

一、多变量时间序列的特性与预测需求（以轴承数据为例）

1.1 轴承多变量时间序列的核心特性

轴承运行过程中，各监测变量并非独立，其特性直接决定模型设计方向：

多变量耦合性：振动幅值与温度呈正相关（温度升高→润滑失效→振动增大），转速与振动频率呈线性关联（转速 1480r/min 对应内圈故障频率约 107Hz），变量间的耦合关系需模型精准捕捉；

时序依赖性：短期依赖（如前 10 秒的振动峰值与当前振动幅值相关系数＞0.85）与长期依赖（如 2 小时前的温度缓慢上升会导致当前振动逐步增大）并存；

非平稳性：设备启动阶段（转速从 0 升至 1480r/min）变量波动剧烈，稳定运行阶段（转速 ±50r/min）变量相对平稳，故障前期（如内圈轻微磨损）变量会出现渐进式异常（振动幅值缓慢上升）；

噪声干扰：现场采集的信号含传感器噪声（如压电传感器的电磁干扰）、环境噪声（如车间其他设备的振动传导），需模型具备抗干扰能力。

1.2 多变量单步预测的核心需求

以 “轴承振动幅值单步预测”（预测未来 1 分钟的振动有效值）为例，需求如下：

精度需求：预测值与真实值的平均绝对百分比误差（MAPE）＜5%，避免因误差过大导致误预警或漏预警；

实时性需求：单步预测耗时＜0.1s，满足工业设备的实时监测需求（通常监测周期为 1 分钟）；

鲁棒性需求：在 10% 噪声干扰下，MAPE 增幅＜2%，确保复杂工业环境中的预测稳定性。

二、Transformer-LSTM 融合模型的核心原理

2.1 单一网络的局限性与融合逻辑

网络类型	优势	局限性
Transformer	自注意力机制可捕捉多变量全局依赖（如温度 - 振动 - 转速的长期关联），并行计算效率高	对局部短期波动（如突发噪声导致的振动尖峰）拟合能力弱，小样本数据下泛化性差
LSTM	门控机制（输入门、遗忘门、输出门）擅长拟合局部时序动态（如振动的短期脉冲），对噪声更鲁棒	难以捕捉多变量间的长距离依赖（如 2 小时前的温度与当前振动的关联），并行计算效率低

融合逻辑：采用 “Transformer 编码器→LSTM→全连接层” 的串联结构，先通过 Transformer 编码器挖掘多变量的全局依赖与长期关联，再通过 LSTM 捕捉经 Transformer 处理后的局部时序动态，最后通过全连接层输出单步预测结果，实现 “全局关联 + 局部动态” 的双重优势互补。