基于Informer+BiGRU-GAtt的并行预测模型
摘要
本文提出了一种新型的并行预测模型架构,结合了Informer的时间序列处理能力和BiGRU-GAtt的双向序列建模与门控注意力机制。该模型通过并行化设计实现了对多元时间序列数据的高效特征提取与预测,在多个基准数据集上的实验结果表明,相较于传统序列预测模型,本方法在预测精度和计算效率方面均有显著提升。文章详细阐述了模型架构设计、并行化策略以及训练优化方法,为复杂时间序列预测任务提供了新的解决方案。
关键词:时间序列预测,Informer,双向门控循环单元,注意力机制,并行计算
1. 引言
时间序列预测在金融、气象、能源和交通等领域具有广泛的应用价值。随着数据复杂度的增加和实时性要求的提高,传统预测模型面临着长序列依赖捕捉不足、计算效率低下等挑战。近年来,基于注意力机制的Transformer架构及其变体(如Informer)在时间序列预测任务中展现出卓越性能,而双向门控循环单元(BiGRU)结合门控注意力机制(GAtt)则在局部特征提取方面具有独特优势。
本文提出的Informer+BiGRU-GAtt并行预测模型,通过创新的并行架构设计,实现了两种模型的优势互补:Informer擅长捕捉长序列全局依赖关系,而BiGRU-GAtt则专注于提取局部时序特征。模型的并行化设计不仅提高了特征提取的全面性,还通过计算资源的合理分配优化了训练效率。
2. 相关工作
2.1 Informer模型
Informer是针对长序列时间序列预测(LSTF)问题提出的Transformer改进模型,其主要创新包括:
-
概率稀疏自注意力机制:降低传统自注意力的O(L²)计算复杂