多尺度变压器金字塔网络用于多元时间序列预测
摘要：多元时间序列(MTS)预测涉及在历史记录中建模时间依赖关系。由于能够捕捉长期依赖关系的能力，变换器在MTS预测中表现出杰出的性能。然而，之前的工作局限于在固定尺度或指数级增加的多个尺度上建模时间依赖关系(大多数以2为底)。这种限制阻碍了它们在捕捉多样季节性(如小时和日模式)方面的有效性。在本文中，我们引入了一种维度不变的嵌入技术，该技术捕捉短期时间依赖关系，并将MTS数据投影到一个高维空间中，同时保留MTS数据中时间步长和变量的维度。此外，我们提出了一种新颖的多尺度变换器金字塔网络(MTPNet)，专门设计用于有效地捕捉多个无约束尺度上的时间依赖关系。预测是通过从不同尺度的变换器获得的多尺度潜在表示推断出来的。对九个基准数据集进行的广泛实验表明，所提出的MTPNet优于最近的最先进方法。
作者：Yifan Zhang, Rui Wu, Sergiu M. Dascalu, Frederick C. Harris Jr
论文ID：2308.11946
分类：Machine Learning
分类简称：cs.LG
提交时间：2023-08-24