区间预测 | MATLAB实现QRGRU门控循环单元分位数回归时间序列区间预测-优快云博客

本文链接：https://blog.youkuaiyun.com/matlab_dingdang/article/details/145395382

✅作者简介：热爱科研的Matlab仿真开发者，擅长数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。

🍎个人主页：Matlab科研工作室

🍊个人信条：格物致知，求助可私信。

🔥 内容介绍

时间序列预测是数据分析和预测领域中的一个核心问题。传统的点预测方法仅提供单一预测值，难以反映预测的不确定性，在实际应用中存在一定的局限性。区间预测则能够提供预测值的置信区间，从而更好地量化预测的不确定性。本文重点探讨使用门控循环单元（GRU）神经网络结合分位数回归（Quantile Regression, QR）方法进行时间序列的区间预测。我们详细阐述了QRGRU模型的基本原理，并基于MATLAB平台实现了该模型。通过实际数据集的验证，我们展示了QRGRU模型在时间序列区间预测中的有效性和优越性。本文为时间序列分析和预测提供了一种新的视角，为实际应用中的决策制定提供了更可靠的依据。

关键词：区间预测，时间序列，分位数回归，门控循环单元，MATLAB

1. 引言

时间序列数据广泛存在于各个领域，例如金融市场、气象预报、能源消耗等。时间序列预测旨在根据历史数据预测未来的趋势，其结果对于决策制定至关重要。传统的点预测方法（如ARIMA、指数平滑等）通常只输出单一预测值，无法有效表达预测的不确定性。然而，现实中的时间序列往往受到各种随机因素的影响，使得预测结果存在一定的不确定性。因此，区间预测能够提供预测结果的置信区间，更好地量化预测的不确定性，具有更强的实用价值。

近年来，深度学习技术在时间序列预测领域取得了显著进展。循环神经网络（Recurrent Neural Networks, RNNs）及其变体（如LSTM、GRU）能够有效捕捉时间序列中的时序依赖关系，在点预测方面表现出强大的性能。然而，将深度学习模型应用于区间预测仍然是一个具有挑战性的问题。目前，基于深度学习的区间预测方法主要有：直接方法、间接方法和混合方法。直接方法直接预测区间的上下限，但训练难度较大；间接方法基于点预测结果生成区间，精度受限于点预测的性能；混合方法则结合了直接方法和间接方法的优点，在精度和训练难度之间取得了较好的平衡。

本文提出了一种基于分位数回归的门控循环单元（QRGRU）模型，用于时间序列的区间预测。GRU网络能够有效地捕捉时间序列中的长期依赖关系，而分位数回归则可以估计预测值的不同分位数，从而构建预测区间。我们将详细阐述QRGRU模型的原理，并基于MATLAB平台实现该模型。通过对实际数据集的验证，证明了QRGRU模型在时间序列区间预测中的有效性和优越性。

2. 相关理论基础

2.1 分位数回归 (Quantile Regression)

传统的线性回归模型旨在拟合因变量的条件均值。而分位数回归则关注因变量的条件分位数。对于一个随机变量Y，其p分位数Q(p)定义为：

P(Y ≤ Q(p)) = p

其中，p∈(0,1) 是分位数水平。分位数回归的目标是估计给定自变量X的情况下，因变量Y的条件分位数：

Q(p|X) = X^T β_p

其中，β_p 是与分位数水平p相关的回归系数。

分位数回归的目标函数是非对称损失函数，其形式如下：

ρ_p(u) = u * (p - I(u < 0))

其中，u 是残差 (y - X^T β_p)，I(.)是指示函数。通过最小化总损失函数 ∑ρ_p(y_i - X_i^T β_p)，即可获得分位数回归的估计系数 β_p。

分位数回归的优势在于：

对异常值不敏感：由于其非对称损失函数的特性，分位数回归对异常值具有较强的鲁棒性。
能够提供不同分位数的估计：分位数回归可以估计不同分位数水平下的条件分位数，从而构建预测区间。

2.2 门控循环单元 (Gated Recurrent Unit, GRU)

GRU网络是一种改进的循环神经网络，旨在克服传统RNNs中存在的梯度消失和长期依赖问题。与LSTM相比，GRU结构更加简单，但性能却不逊色。GRU的核心思想是引入了两个门控机制：更新门 (update gate) 和重置门 (reset gate)。

更新门: 决定了上一时刻的隐藏状态对当前时刻隐藏状态的影响程度，其计算公式如下：

z_t = σ(W_z x_t + U_z h_{t-1} + b_z)

其中，x_t 是当前时刻的输入，h_{t-1} 是上一时刻的隐藏状态，W_z 和 U_z 是权重矩阵，b_z 是偏置向量，σ 是sigmoid激活函数。
重置门: 决定了上一时刻的隐藏状态需要被遗忘的程度，其计算公式如下：

r_t = σ(W_r x_t + U_r h_{t-1} + b_r)

其中，W_r 和 U_r 是权重矩阵，b_r 是偏置向量。
候选隐藏状态: 基于重置门和当前输入计算得出，其公式如下：

\tilde{h}t = tanh(W_h x_t + U_h (r_t \odot h{t-1}) + b_h)

其中，tanh是双曲正切激活函数，⊙表示逐元素乘积。
当前隐藏状态: 基于更新门、候选隐藏状态和上一时刻的隐藏状态计算得出，其公式如下：

h_t = (1 - z_t) \odot h_{t-1} + z_t \odot \tilde{h}_t

GRU网络通过更新门和重置门有效地控制了信息的流动，使得网络可以更好地捕捉时间序列中的长期依赖关系。

3. QRGRU模型原理

QRGRU模型结合了GRU网络和分位数回归的优势，用于时间序列的区间预测。模型的整体结构如下：

输入层: 将时间序列数据作为输入，进行预处理（如标准化）。
GRU层: 使用GRU网络提取时间序列中的时序特征。
全连接层: 将GRU的输出映射到指定维度的向量，为分位数回归做准备。
分位数回归层: 使用分位数回归方法预测不同分位数的条件分位数。
输出层: 输出指定分位数水平的预测结果，从而构建预测区间。

模型的关键之处在于，我们不是直接预测单一的未来值，而是同时预测多个分位数水平（例如，0.05, 0.25, 0.5, 0.75, 0.95）。通过这些不同分位数水平的预测结果，我们就可以构建不同置信度的预测区间。例如，0.05和0.95分位数预测结果可以构建90%的置信区间。

3.1 模型训练

模型的训练过程如下：

定义分位数水平: 根据需要定义一组分位数水平 (e.g., p = [0.05, 0.25, 0.5, 0.75, 0.95])。
初始化网络参数: 使用随机初始化方法初始化GRU网络的权重和偏置项。
前向传播: 将输入数据输入到网络，得到每个分位数水平的预测结果。
计算损失函数: 使用分位数回归的损失函数计算预测值和真实值之间的损失。
反向传播: 使用反向传播算法计算损失函数对网络参数的梯度。
参数更新: 使用梯度下降算法或其他优化算法更新网络参数。
重复步骤3-6: 直到模型收敛或达到预定的训练轮数。

4. MATLAB实现

我们使用MATLAB实现了QRGRU模型，并使用一个实际数据集进行了验证。具体的实现步骤如下：

数据预处理:
- 加载时间序列数据。
- 将数据划分为训练集、验证集和测试集。
- 对数据进行标准化处理。
模型构建:
- 定义GRU网络的结构（隐藏层单元数、层数等）。
- 定义全连接层的结构（输出维度）。
- 定义分位数回归的输出维度（等于分位数水平的个数）。
- 使用MATLAB深度学习工具箱构建模型。
模型训练:
- 定义分位数水平。
- 选择优化算法和损失函数。
- 设置训练参数（学习率、批大小、训练轮数等）。
- 使用训练数据训练模型。
- 在训练过程中，使用验证集评估模型性能，并进行早停。
模型测试:
- 使用测试数据预测不同分位数水平的条件分位数。
- 计算预测区间的宽度和覆盖率等指标，评估模型的性能。
结果可视化:
- 可视化预测区间和真实值。
- 可视化损失函数曲线。