ICML24｜通用时间序列预测大模型思路

论文标题：Unified Training of Universal Time Series Forecasting Transformers

GitHub链接：https://github. com/SalesforceAIResearch/uni2ts

论文链接：https://arxiv.org/pdf/2402.02592

前言

普适预测器是一个能够处理任何时间序列预测问题的大型预训练模型。它在跨多个领域的大规模时间序列数据集上进行训练。如图1，与现有范式相比，普适预测面临三个关键问题：i) 多频率，ii) 任意变量预测，iii) 分布变化。

为了解决这些挑战，本文对传统时间序列Transformer架构进行了新颖的增强，提出了——基于掩码编码器的普适时间序列预测Transformer（MOIRAI）。MOIRAI在新引入的大规模开放时间序列档案（LOTSA）上进行了训练，该档案包含了来自九个领域的超过270亿个观测值。作为零样本预测器，MOIRAI在性能上与全样本模型相比具有更优越的表现。

本文工作