timesmixer
TimesMixer
TimesMixer: 用于时间序列预测的可分解多尺度混合
1. BackGroud
时间序列预测在很多方面都有研究与应用,比如经济学、能源、交通规划等,然而,由于现实世界或系统的复杂性和非平稳性,观测序列通常呈现错综复杂的时间模式,其中增加、减少和波动等众多变化深度混合,给预测任务带来了严峻的挑战。本文作者进一步观察到,时间序列在不同采样尺度下呈现出显著的时间变化。例如,按小时记录的交通流量显示了不同时间段的交通变化,而在按日采样的序列中,这些细粒度的变化消失了,但与假期相关的波动却显现出来。
2. Motivation
鉴于季节和趋势成分在时间序列中表现出明显不同的特征,并且时间序列的不同尺度反映了不同的属性,在细粒度的微观尺度上季节性特征更加明显,而在粗粒度的宏观尺度上趋势特征更加明显,因此,有必要在不同尺度上分离季节性和趋势成分。本文提出了一种有多尺度混合架构的 TimeMixer,它能够通过 Past-Decomposable-Mixing (PDM) 模块从过去的变化中提取基本信息,然后通过 Future-Multipredictor-Mixing (FMM) 模块预测未来的序列,TimesMixer在长期和短期预测任务中实现SOTA,并在各种基准上具有卓越的效率。
3. Method
TimeMixer模型采用了一个多尺度混合架构,旨在解决时间序列预测中的复杂时间变化问题。该模型主要采用全MLP(多层感知机)架构,由过去可分解混合Past Decomposable Mixing (PDM) 和未来多预测器混合Future Multipredictor Mixing (FMM) 两大块构成,能够有效利用多尺度序列信息。
时间序列在不同的采样尺度上呈现出不同的模式,微观信息和宏观信息分别反映在细尺度和粗尺度上。
多尺度分解
通过多次平均池化,能够获得多个不同尺度上的信息
降采样,分解序列为M个尺度
最低级别的序列x0是输入序列,包含最精细的时间变化,而最高级别的序列xM代表宏观变化
季节趋势分解
趋势性:还是对序列进行一个平均池化的操作,获得它的趋势性序列
季节性:用原始序列减去 - 趋势性序列得到
- 多尺度趋势分量混合
在季节性序列上,作者认为细粒度的季节性包含了粗粒度的季节性信息,由细粒度向粗粒度自底向上更新数据;
在趋势性序列上,作者认为粗粒度的趋势性更能减少噪声的干扰,能反映数据变化的趋势,所以由粗粒度数据知道细粒度数据更新。
- 多预测器混合
通过上述操作,能够获得不同尺度下时间序列的季节性和趋势性时间序列数据,最后将这些不同尺度下的数据展成同一维度进行拼接,去预测未来的数据
4. Experimen
长时预测:
短时预测:
消融实验:
不同尺度下的预测结果:
5. Conclusion
这篇文章提出了具有多尺度混合架构的 TimeMixer,用于应对时间序列预测中的复杂时间变化。通过 Past-Decomposable-Mixing 和 Future-Multipredictor-Mixing 模块,TimeMixer 充分利用了解耦的变化特征和互补的预测能力。在所有实验中,TimeMixer 在长期和短期预测任务中均实现了一致的最先进性能。此外,得益于完全基于 MLP 的架构,TimeMixer 展现了出色的运行效率。