Retrieval-Augmented Diffusion Models for Time Series Forecasting

本文是LLM系列文章，针对《Retrieval-Augmented Diffusion Models for Time Series Forecasting》的翻译。

摘要

虽然时间序列扩散模型在最近的许多研究中受到了相当大的关注，但现有模型的性能仍然高度不稳定。限制时间序列扩散模型的因素包括时间序列数据集不足和缺乏指导。为了解决这些局限性，我们提出了一种检索增强时间序列扩散模型（RATD）。RATD的框架由两部分组成：基于嵌入的检索过程和参考引导的扩散模型。在第一部分中，RATD从数据库中检索与历史时间序列最相关的时间序列作为参考。第二部分利用参考文献指导去噪过程。我们的方法允许利用数据库中有意义的样本来帮助采样，从而最大限度地利用数据集。同时，这种参考引导机制也弥补了现有时间序列扩散模型在引导方面的不足。在多个数据集上的实验和可视化证明了我们的方法的有效性，特别是在复杂的预测任务中。我们的代码在https://github.com/stanliu96/RATD上可用。

1 引言

2 相关工作

3 前言

4 方法

5 实验

6 讨论

局限性和未来工作作为一种基于Transformer的扩散模型结构，我们的方法仍然面临着Transformer框架带来的一些挑战。我们的模型在处理由太多变量组成的时间序列时消耗了大量的计算资源。此外，我们的方法在训练过程中需要额外的预处理（检索过程），这会在训练时间