MSADHGCANet:一种用于多变量时间序列多步预测的多尺度超图神经网络模型

《Big Data Research》:MSADHGCANet: A multi-scale hypergraph neural network model for multi-step prediction of multivariable time series

【字体: 大 中 小 】 时间:2026年08月28日 来源:Big Data Research 4.6

编辑推荐:

   **摘要** 多变量时间序列预测是金融、交通和能源领域的关键技术。然而,多变量耦合、多尺度特征和隐式高阶关系使得准确预测具有挑战性。现有的深度学习模型,尤其是图神经网络,局限于二元边连接,无法充分建模跨越多个尺度的复杂高阶交互。为此,我们提出了一种多尺度双超图卷积注意力网络

  

**摘要** 多变量时间序列预测是金融、交通和能源领域的关键技术。然而,多变量耦合、多尺度特征和隐式高阶关系使得准确预测具有挑战性。现有的深度学习模型,尤其是图神经网络,局限于二元边连接,无法充分建模跨越多个尺度的复杂高阶交互。为此,我们提出了一种多尺度双超图卷积注意力网络 (MSADHGCANet)。该模型采用双超图生成模块来构建动态和静态超图,并利用双超图学习模块来捕获尺度内和跨尺度的高阶交互。在六个公共数据集上的实验表明,我们的模型始终优于最先进的基线模型,消融实验证实了每个核心组件的有效性。

**引言** 在信息技术革命与数字化转型深度融合的背景下,多时间序列预测作为时间序列数据分析的核心技术,已广泛应用于金融交易预测 [[1], [2], [3]]、智能交通控制 [4,5]、能源负荷调度 [6,7]、工业设备监控 [8] 和旅游 [9,10] 等关键领域。这类数据不仅具有传统时间序列的时间依赖特性,还因其多变量耦合特性而在高维空间中呈现出非线性动力学特征。研究表明,多个变量之间的动态交互往往呈现出时变耦合系数(时间维度)和异质相关强度(空间维度)的双重复杂性,因此如何准确预测多变量时间序列数据已成为研究人员面临的难题 [11,12]。

近年来,随着深度学习技术的发展,各种深度学习模型在多变量时间序列预测任务中显示出巨大的优势和强大的预测性能,包括卷积神经网络、循环神经网络、Transformer 神经网络、图神经网络等。其中,卷积神经网络 (CNN) 通过局部感知机制捕捉时间模式 [13],循环神经网络 (RNN) [14] 及其变体 LSTM [15] 和 GRU [16] 擅长建模时间依赖关系,Transformer 架构通过自注意力机制实现长距离依赖建模 [17]。值得注意的是,图神经网络具有强大的时空特征建模和学习能力,能够充分学习多变量时间序列数据中的各种时空特征,因此在多变量时间序列预测任务中表现良好。

然而,多变量时间序列数据中多个变量之间的交互往往具有多尺度和多方向性 [[18], [19], [20]]。或者从时间上看,多变量时间序列数据表现出不同程度的时变和多尺度时空特征。在空间/变量关系方面,多变量时间序列数据中存在直接或间接因果关系以及其他相互影响的隐式关系。多尺度意味着不同时间尺度的序列之间存在模式差异。例如,大尺度序列显示上升趋势,而小尺度序列显示下降趋势。多方向意味着目标变量一次与多个变量(两个或更多)进行交互。现有的 GNN 框架在处理复杂系统交互时存在本质局限性。传统图结构局限于二元边连接,无法表示真实系统中的公共超边关系(即多个节点之间的群体交互效应),这意味着只能表示一对一关系的图神经网络无法进一步建模和学习这些高阶关系,也无法进一步提高预测精度 [[21], [22], [23]]。因此,迫切需要一种能够建模这种高阶关系的模型来处理多变量时间序列预测任务,以进一步提高预测精度。

此外,在当前的多变量时间序列预测任务中,利用模型学习不同尺度数据的多样性以及不同尺度之间的交互也至关重要。然而,现有的多尺度预测模型面临一个根本困境:它们要么依赖预定义的、固定的多尺度结构,无法适应变化的数据分布,要么采用纯粹的数据驱动自适应结构,虽然灵活,但容易过拟合且缺乏稳定的归纳偏置。单独采用任何一种方法都不足以实现鲁棒的多尺度预测。一方面,纯粹的动态超图可以捕捉时变交互,但可能会过拟合瞬时噪声,尤其是在非平稳场景中。另一方面,纯粹的静态超图提供稳定的结构先验,但无法适应不同时间背景下不断变化的模式。为了解决这一困境,我们提出了一种双超图架构,协同结合了动态和静态超图。动态超图提供数据驱动的适应性以捕捉不断演变的高阶交互,而静态超图提供结构正则化以锚定长期的、尺度内在的依赖关系。这两种互补机制在统一框架内联合优化,实现了鲁棒且自适应的多尺度建模。

为了解决这些挑战,本文提出了一种多尺度双超图卷积注意力网络作为新的多变量时间序列预测框架 (MSADHGCANet)。具体来说,该模型通过快速傅里叶变换 (FFT) 操作提取多尺度时空特征。然后,使用节点超边嵌入方法在每个尺度上构建动态超图,并动态优化数据驱动的动态超图以建模尺度内的特征关系。同时,构建静态超图和线图来建模数据结构。最后,利用由超图卷积和超图注意力组成的双超图学习模块,深入学习和建模多个尺度之间及内部特征关系和交互关系。本文的主要贡献如下:
(1) 构建了两种动态超图和静态超图,用于建模数据中显式的和隐式的一对一、多对一和多对多关系。
(2) 通过使用由超图注意力和超图卷积构建的双超图学习模块,我们进一步学习了尺度间的隐式交互和尺度内的显式关系。提高了模型建模学习的准确性。
(3) 与论文中的其他对比基线模型相比,提出的模型在 6 个数据集的实验中表现出了卓越的预测性能,证明了模型的优越性。
(4) 消融实验结果表明,提出的模型中的双超图生成模块和双超图学习模块在提高模型性能方面发挥了积极作用。

本文结构如下:第一章简要介绍了该主题的研究背景;第二章系统梳理了先前的相关工作;第三章讨论了超图的基础知识和预测。第四章将给出并详细描述模型结构。第五章首先描述实验数据集、实验设置和评估指标。接下来,以图表形式展示时间窗口实验、对比实验和消融实验的结果并进行讨论。第六章是结论,这部分将总结本文的结果,并展望未来的研究。

**章节片段**

**多尺度多变量时间序列预测**
在早期的多变量时间序列预测工作中,研究人员通常只考虑在单一时间尺度上执行的预测任务。因此,经典统计方法和机器学习方法更受青睐,例如自回归积分滑动平均 (ARIMA) [24]、支持向量机 (SVM) [25,26]、梯度提升决策树 (GBDT) [27]、极端梯度提升 (XGBoost) [28] 等。
近年来,在数据爆炸产生的大数据时代,随着...

**问题定义**
多变量时间序列预测是大数据分析中的一个经典问题,涉及对数据的时间、空间和时空特性进行建模。在本研究中,我们将多变量时间序列数据记录为矩阵 $X=(x_1, x_2, ..., x_m)^T=(x_1, x_2, ..., x_t)$,其中字符 m 表示变量的数量,t 代表历史时间的长度。因此,对于时间第 i 点的所有变量数据,我们称之为 $x_i=(x_{i1}, x_{i2}, ..., x_{im})$。同样,对于序列的...

**模型描述**
为了解决现有多变量时间序列预测模型无法准确建模不同尺度数据的隐式高阶交互,以及预测精度面临提升瓶颈的问题,本文提出了一种多尺度双超图卷积注意力模型 (MSADHGCANet)。该模型的概念结构如下所示。首先,使用多尺度特征提取模块 (MSFE 模块) 提取多尺度特征...

**实验结果与分析**
在本章中,将首先描述实验数据集,并在第二和第三节分别介绍实验中所使用的实验设置和评估指标。然后,在第四部分展示在 6 个数据集上进行的滑动时间窗口实验的数值结果,并在第五和第六部分展示并分析在 6 个数据集上进行的对比实验和消融实验的结果。

**结论**
本文提出了一种多尺度双超图卷积注意力网络 (MSADHGCANet),旨在解决多尺度多变量时间序列预测任务中难以建模和学习尺度间显式和隐式高阶交互或非配对关系的问题。具体来说,首先,我们将对数据进行多尺度特征提取和多尺度序列构建,并将处理后的数据输入到双超图...

**资助**
本项目受中国海南省教育厅资助 (Hyb2025-20)。

**CRediT 作者贡献声明**
曹旭鑫 (Chuxin Cao):撰写 – 审阅与编辑,撰写 – 原始草稿,可视化,验证,软件,方法论,正式分析,数据整理。
吴曼 (Man Wu):撰写 – 审阅与编辑,验证,数据整理。
林智哲 (Zhizhe Lin):撰写 – 审阅与编辑,验证,数据整理。
黄建红 (Jianhong Huang):监督,项目管理。
周腾 (Teng Zhou):监督,项目管理。

曹旭鑫 | 吴曼 | 林智哲 | 黄建红 | 周腾
中国海口,海南大学,信息与通信工程学院
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号