17、时间序列预测中的交叉学习：原理、应用与优势

时间序列预测中的交叉学习：原理、应用与优势

1. 不同模型在时间序列预测中的表现

在时间序列预测中，当真实过程未知时，我们可能会应用复杂模型，如自回归积分滑动平均模型（ARIMA）或指数平滑模型。这些模型可通过参数估计简化为样本均值，但对于实际样本量，其表现可能不如自回归模型 AR(0)。全局方法能通过考虑数据集中的所有时间序列，学习到真实模型为样本均值；而局部方法的预测误差不会随数据集大小而变化。交叉学习方法则可能从数据中快速找到近似样本均值的系数值。

2. 含噪声局部过程分析得出的准则

从过程加噪声的分析中得出的主要建议，强化了之前确立的交叉学习的一个主要原则：交叉学习的模型类别应具有比局部方法通常认为合理的更高阶自回归。
- 大阶自回归的必要性 ：对于含噪声的过程，交叉学习模型类别需要大阶自回归。滞后项用于对观测值进行平均，以“平滑”噪声。虽然可以通过添加非线性项而非滞后项来近似过程，但在存在噪声的情况下，非线性项是不够的。这一建议可能与一些现有的交叉学习模型经验法则不同，例如尝试滞后项最多到两个季节的自回归（如月度序列且有年度周期时的滞后 24）。
- “稀疏性”的局限性 ：在存在噪声的情况下，“稀疏性”对交叉学习可能没有帮助。“稀疏性”指的是机器学习/人工智能技术，旨在使模型专注于一组少数输入变量，忽略其他变量，例如通过 L1 或 L0 正则化、通过模型选择进行简单特征选择或通过精心设计的深度网络来实现。原因在于我们需要对多个滞后项的误差进行平均，因此不应从模型中移除滞后项。

3. 迁移学习的明确示例

传统的时间序列预测中，交叉