【场景应用6】Autoformer在时间序列预测任务中的应用

1. 简介

在这篇文章中，我们讨论一个问题：Transformers 是否对时间序列预测有效？答案是肯定的。

首先，我们将提供实证证据，证明Transformers确实对时间序列预测有效。我们的比较显示，简单的线性模型DLinear并不像声称的那样优于Transformers。与在相同设置下的等大小模型相比，基于Transformer的模型在我们考虑的测试集指标上表现更好。接下来，我们将介绍Autoformer模型（Wu, Haixu等，2021），该模型在Informer模型之后发布于NeurIPS 2021。Autoformer模型现在可以在🤗 Transformers中使用。最后，我们将讨论DLinear模型，这是一个简单的前馈网络，使用了来自Autoformer的分解层。DLinear模型首次出现在《Are Transformers Effective for Time Series Forecasting?》中，并声称在时间序列预测中优于基于Transformer的模型。

开始吧！

2. 基准测试 - Transformers vs. DLinear

在最近发布于AAAI 2023的论文《Are Transformers Effective for Time Series Forecasting?》