动态提示增强型多模态双分支小样本时间序列预测

《Neurocomputing》:Dynamic prompt-enhanced multimodal dual-branch few-shot time series forecasting

【字体: 大 中 小 】 时间:2026年04月06日 来源:Neurocomputing 6.5

编辑推荐:

  动态提示生成与多模态融合的时间序列预测模型Time-DPMB,通过对比学习构建异构特征空间,采用平行协注意力机制实现多模态渐进式融合,有效缓解少样本场景下的数据稀缺问题,实验表明在多种基准数据集上均优于基线模型。

  
车宇庚|陈卓|田浩然|杜俊伟
青岛科技大学数据科学学院,中国青岛266061

摘要

在少样本场景下,时间序列预测面临数据稀缺的挑战,这阻碍了准确捕捉内在的动态特征和潜在的时间模式。为了解决这个问题,我们提出了一种名为Time-DPMB的少样本时间序列预测模型。我们的方法为不同的时间序列输入独立生成动态提示,并结合视觉模态表示来增强提示信息。一个双分支架构通过时间编码器和视觉语言模型编码器对时间序列数据和多模态提示进行编码,以产生多模态时间表示。这一过程利用先验知识和语义推理来扩大少样本场景下的信息带宽。为了协调双分支之间的特征空间异质性,我们引入了对比学习来构建统一的联合表示空间。此外,我们采用了一种与分层加权策略相结合的并行共注意力机制,逐步融合对齐的多模态特征。在多个公共数据集上的实验表明,Time-DPMB在少样本和全样本任务中均表现出色。

引言

时间序列预测是数据科学和机器学习中的一个基本任务,旨在从历史观测数据中预测未来趋势。它在多个领域有广泛的应用,包括电力负荷预测、智慧城市中的交通流量预测、金融价格波动分析以及气象预测[1]、[2]、[3]、[4]、[5]、[6]。最近,基于深度学习的模型展示了有竞争力的性能,包括基于CNN的TimesNet [7]、基于RNN的SegRNN [8]、基于Transformer的Informer [9]、PatchTST [10]和基于MLP的DLinear [11]。
然而,这些模型通常需要从头开始训练,并且严重依赖于大规模数据[12]、[13]。在实践中,高数据获取成本、隐私和安全限制、系统冷启动问题以及突发性破坏性事件等因素往往限制了时间序列样本的可用性[14]。这种数据稀缺性阻碍了深度模型在少样本场景下的学习效果。相反,大型基础模型(如大型语言模型(LLMs)和视觉语言模型(VLMs)在海量数据集上训练,能够捕获丰富的通用表示和先验知识。作为有效的特征表示器,它们有助于缓解少样本预测中的数据稀缺问题。因此,将大型基础模型集成到时间序列预测中已成为解决少样本学习挑战的重要研究方向。
GPT4TS [15]直接将分词后的时间序列输入到LLM中,然后将输出映射为预测值。由于该模型仅使用时间序列作为输入,它未能利用LLM的潜在上下文语义推理能力。Time-LLM [16]通过简单的文本提示来表示时间序列,从而将时间数据与LLM擅长的自然语言空间对齐。然而,这种单分支范式往往导致文本特征和数值特征之间的信息纠缠,降低了特征提取的质量。为了缓解这种纠缠,TimeCMA [17]采用了包含时间和LLM分支的双路径架构,并使用多头注意力机制进行特征融合。尽管TimeCMA显示出潜力,但它难以处理时间序列的固有复杂性。具体来说,不同时间段往往表现出不同的季节性、趋势和非线性模式[18]。因此,静态的、手动设计的提示无法指导LLM生成能够捕捉这些动态的差异化表示。此外,用于融合的多头注意力机制在少样本场景中容易过拟合[19]。为了解决这些不足,我们提出了Time-DPMB。我们的主要贡献总结在以下三个方面。
  • 1.
    我们提出了一种多模态特征增强策略,设计了一个提示模板,指导LLM从趋势、季节性和波动性角度分析时间序列。LLM为特定的时间序列片段生成定制的提示,以增强对复杂时间模式的语义理解。生成的提示与时间热图结合后,被输入到VLM中,实现时间序列特征的联合表示,有效缓解了少样本场景中的特征学习不足问题。
  • 2.
    我们引入了一种多模态对齐和融合策略,在少样本场景中使用对比学习进行初始的跨模态对齐。它结合了并行共注意力来促进模态之间的深度交互。此外,分层加权策略使得融合过程更加渐进和稳健,即使在数据稀缺的情况下也能保持时间表示的一致性和鲁棒性。
  • 3.
    在多个基准测试中的广泛评估表明,Time-DPMB始终优于现有方法。我们的模型在各种少样本场景中平均降低了8.6%的MSE和MAE指标。

部分摘录

时间序列预测中的模态对齐和融合

随着时间序列预测的发展,最近的研究开始结合多模态特征,这需要有效的模态融合技术。例如,UniTime [20]通过注意力机制将时间序列特征与LLM编码的文本结合,但它缺乏明确的跨模态对齐约束。这种松散的耦合引入了模态噪声,加剧了异构数据源之间的特征纠缠,限制了模型捕获统一表示的能力。Time-VLM [21]

方法论

如前所述,我们专注于开发一个模型来解决少样本时间序列预测的挑战。所提出的Time-DPMB模型的核心前提是通过多模态技术将时间序列数据转换为多视图表示。然后对这些表示进行深度对齐和融合,以产生语义丰富的时间特征。Time-DPMB的总体架构如图1所示,包括1)动态提示生成模块(DPG),2)双分支

实验

在本节中,我们将详细介绍数据集、基线模型和实验设置,并对实验结果进行综合分析,以验证我们的方法。

结论

我们提出了Time-DPMB,这是一个新颖的框架,通过多模态增强策略缓解了少样本场景中特征表示的局限性。通过构建结合趋势、季节性和波动性分析视角的提示模板,我们的模型动态生成了针对特定时间序列片段定制的语义提示。结合VLM和时间分支,这种方法显著加深了模型对复杂时间动态的理解。

CRediT作者贡献声明

车宇庚:撰写——原始草稿、可视化、验证、软件、方法论、调查、形式分析、数据整理、概念化。陈卓:撰写——审稿与编辑、监督、资金获取。田浩然:项目管理。杜俊伟:资源提供。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文所述的工作。
车宇庚是中国青岛科技大学数据科学学院的硕士候选人。他的研究重点是时间序列分析。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号