SIGKDD 2022 | 复杂周期性时间序列预测

ACM SIGKDD国际会议（简称 KDD）是由ACM的数据挖掘及知识发现专委会主办的数据挖掘研究领域的顶级年会，是数据挖掘领域历史最悠久、规模最大的国际顶级学术会议，会议分为研究和应用科学两个方向，在知识发现、数据挖掘、人工智能等领域具有重大影响力。第28届KDD会议于2022于8月14日至18日在美国华盛顿举行。

复杂时间序列的预测问题在实际应用中十分常见，这类序列往往带有复杂的周期性，但很少有模型能够处理复杂的周期性模式，例如真实数据集中的多个周期、可变周期和相位转移。本次分享的论文将周期和相位以可学习的形式融入Transformer，以解决复杂时间序列预测问题。

Learning to Rotate: Quaternion Transformer for Complicated Periodical Time Series Forecasting

Chen, W., Wang, W., Peng, B., Wen, Q., Zhou, T., & Sun, L. (2022, August).

DAMO Academy, Alibaba Group, Hangzhou, China

1. 背景和问题

时间序列预测在能源、交通、经济、气象和传染疾病等领域都有非常重要的应用。长期的预测可以为规划和预警提供指导。为了预测的准确性，需要对复杂时间依赖进行建模，包括周期性的和趋势性的依赖。此外还需要降低计算复杂度。

在微软大数据中心，60%以上的时间序列表现出周期性，尤其是面向业务的时间序列数据。复杂周期性由于多周期、变周期和相移等原因，在时间序列预测中十分复杂。

已有的基于Transformer的时间序列预测方法：

LogTrans：利用子序列级的注意力机制，利用距离的指数增加注意力稀疏度

Informer：query稀疏性（删除信息较少的queries），降尺度

Autoformer：Season-trend分解，序列级（非点级）的聚合

但是前两者不能显式地建模周期模式，最后一种方法不能处理复杂周期模式（例如可变周期或相移）。 当前仍存在问题：

1）由于时序依赖关系可能被纠缠的趋势和周期模式所掩盖，如何对时序依赖关系进行建模仍然是一个挑战。

2）传统的预测方法，如seasonal ARIMA和Prophet，也利用了具有启发式