一种通过强化的精英遗传算法优化的、具有注意力增强的混合TCN-LSTM模型,用于热负荷预测

《Energy》:An attention-enhanced hybrid TCN-LSTM model optimized by a strengthened elitist genetic algorithm for heat load prediction

【字体: 大 中 小 】 时间:2026年03月01日 来源:Energy 10.1

编辑推荐:

  穆岩丽|王海超|王天宇|王安庆|吴文涛|拉赫德尔马·里斯托中国辽宁省大连市116024,大连工业大学建筑环境与设施工程研究所摘要准确的热负荷预测对于区域供热系统的节能运行至关重要。传统机器学习模型已被广泛应用,但在准确捕捉非线性、时变且多变量耦合的热负荷方面仍存在不足。因此,本文

  穆岩丽|王海超|王天宇|王安庆|吴文涛|拉赫德尔马·里斯托中国辽宁省大连市116024,大连工业大学建筑环境与设施工程研究所摘要准确的热负荷预测对于区域供热系统的节能运行至关重要。传统机器学习模型已被广泛应用,但在准确捕捉非线性、时变且多变量耦合的热负荷方面仍存在不足。因此,本文提出了一种新型模型以提高预测性能,该模型结合了改进的精英遗传算法(SEGA),用于优化由时间卷积网络(TCN)和注意力机制(ATT)增强的混合长短期记忆(LSTM)模型的超参数。此外,还构建了基于粒子群优化(PSO)、鲸鱼优化算法(WOA)和传统遗传算法(GA)的三种混合模型作为对比。研究使用了包含2880小时热负荷数据的真实世界数据集来评估所提混合模型的预测性能。实验结果表明,SEGA-TCN-ATT-LSTM模型具有最高的预测精度(R2=0.9860,MSE=0.0070,MAE=0.0547,MAPE=0.0769)。与基准LSTM模型相比,其MAE和RMSE分别降低了52.36%和55.24%。此外,SEGA-TCN-ATT-LSTM在收敛速度方面也优于PSO-TCN-ATT-LSTM、WOA-TCN-ATT-LSTM和GA-TCN-ATT-LSTM,在计算效率与预测精度之间取得了优异平衡,其在独立的区域供热建筑数据集上的测试进一步验证了其有效性。所提模型能够准确高效地确定最优超参数配置,从而显著提升整体热负荷预测性能。引言近年来,不断上升的碳排放引发了全球气候危机和严重的环境问题,这使得能源结构的低碳转型成为全球治理的当务之急。中国政府已设定明确目标,即到2030年实现碳排放峰值,到2060年实现碳中和,为能源系统的绿色低碳转型提供了战略方向[1]。根据最新研究,中国的建筑能耗占全社会总能耗的30%以上。在寒冷地区的供暖季节,供暖系统占据了40%至50%的能耗,是碳排放的主要来源之一[2]。在区域供热系统中,准确的热负荷预测对于平衡室内环境舒适度与能源效率至关重要,同时也是实现智能供暖、节能降耗的前提条件[3]。随着人工智能的快速发展,深度学习方法在区域供热负荷预测领域展现出了巨大潜力。与线性回归和ARIMA等传统统计模型相比,深度学习方法更能处理供热系统中的非线性、多变量以及高度动态的时间序列数据[4][5]。其中,长短期记忆(LSTM)网络因其强大的处理序列数据中复杂非线性依赖关系的能力而被广泛用于热负荷预测。研究表明,与RNN或标准前馈神经网络相比,LSTM在捕捉时间序列数据中的长期依赖关系方面表现更好,因此非常适合用于建模非线性和动态的热负荷数据[6]。尽管LSTM为热负荷预测奠定了坚实基础,但它仍然难以完全捕捉复杂的时空模式。解决这些挑战对于提高预测精度和实现高效的供暖能源管理具有重要意义,这也推动了混合深度学习模型的进一步探索。近年来,能源系统时间序列预测领域的进展越来越倾向于采用混合深度学习架构,这类架构整合多种先进技术以应对供热负荷复杂多变的时空特性。循环神经网络(RNN),如LSTM,通常被用来捕捉非线性的长期时空依赖关系,而基于卷积的结构,包括卷积神经网络(CNN)和时间卷积网络(TCN),则通过高效且并行的时间特征提取方式,增强对局部及多尺度时空模式的挖掘能力。注意力机制也因能够动态分配权重而受到了广泛研究关注。近年来,越来越多的研究致力于将互补的建模机制整合到统一的预测框架中,旨在克服单一架构模型的固有局限性,提升预测精度和稳定性。作为典型的门控循环神经网络,LSTM因其能够建模非线性长距离时空依赖关系,同时还能缓解梯度消失和爆炸问题,而被广泛用作时间序列预测框架的核心组件[7][8]。在热负荷和能耗预测领域,基于LSTM的模型通常被用作更高级混合预测框架的基准架构。多项研究已证明了它们在能源相关负荷预测任务中的有效性。韩等人提出了一种结合布谷鸟搜索算法与LSTM的能耗预测模型,为电力系统的经济调度和安全运行提供了有力支持[9]。张等人提出了一种整合运行模式识别技术与LSTM的模型,用于预测非住宅建筑的供暖能耗,取得了较高的短期预测精度[10]。伦格等人对多种用于热负荷预测的机器学习方法进行了全面比较,实验结果表明LSTM模型在预测精度方面具有明显优势[11]。刘等人提出了一个基于LSTM的联合发电厂短期热负荷预测模型,实验结果显示,该模型在训练效率和预测精度方面均优于传统方法[12]。王等人提出了一种基于物理原理的LSTM模型,用于预测办公楼的熱负荷,实验结果表明,该模型在预测精度、泛化能力和计算效率方面均表现出色[13]。崔等人提出了一种基于双向LSTM模型的新型热负荷预测方法,并通过超参数优化进一步提升了模型的预测精度[14]。尽管LSTM在建模非线性和动态时空依赖关系方面表现出强大能力,但它在有效捕捉精细的局部时空模式和突然的负荷波动方面仍存在局限。因此,近期研究越来越多地探索整合互补模块以增强基于LSTM的模型,并开发更先进的混合预测框架。在这些方法中,基于卷积的架构被广泛引入,以提供高效的局部及多尺度时空特征提取能力,从而弥补RNN在序列建模方面的优势。为了进一步提升LSTM模型的预测精度,近期研究越来越多地探索将时间卷积网络(TCN)整合到LSTM架构中。TCN是一种专为序列数据建模设计的特殊卷积神经网络,它能够有效提取时空特征,并实现对输入时间序列数据的并行处理[15]。与传统卷积神经网络(CNN)相比,TCN在避免时间序列预测中的信息泄露方面具有明显优势,同时通过因果卷积层和扩张卷积层的组合,还能显著扩大模型的感受野[16]。在时间序列预测任务中,TCN在保持时间因果关系的同时,能有效捕捉多尺度波动。由于其并行计算能力和灵活的感受野设计,TCN越来越被用作时空特征提取器,并与LSTM结合形成混合预测框架。这种混合方法有效地解决了独立LSTM模型在处理突发变化和复杂时空结构方面的固有局限性,同时通过并行化的卷积操作显著提高了计算效率[17]。近期研究已经证明了这种混合策略在时间序列预测中的有效性。谢等人将TCN和LSTM整合到一个混合深度学习模型中,用于预测污水处理厂的实时出水质量,其预测精度优于传统方法[18]。田等人提出了一种基于同类日识别的TCN-LSTM模型,用于预测电动汽车的充电负荷,实验结果表明,该混合模型在所有基准方法中的预测误差最低[19]。在建筑能源系统领域,宋等人开发了一种用于预测公共建筑制冷负荷的新型TCN-LSTM框架,对比实验结果表明,该框架的均方绝对误差降低了13.38%以上,体现了该模型的有效性和优越性[20]。龚等人提出了一种整合TCN、LSTM和LightGBM的混合模型,用于短期电力负荷预测,通过引入TCN,显著提升了模型提取特征时空依赖关系的能力,从而有效提高了混合模型的预测性能[21]。蒋等人开发了一种用于预测区域供热负荷的混合TCN-LSTM模型,实验结果表明,该模型的预测性能优于传统方法[22]。此外,宋等人还将TCN与双LSTM相结合,进一步提升 hourly热负荷预测的时空表征能力和稳定性[23]。雷等人提出了一种多尺度混合框架,其中TCN用于捕捉长期的周尺度时空模式,而LSTM则用于建模短期的小时级动态变化,从而显著提升了预测精度[24]。尽管TCN–LSTM架构在时间序列预测方面表现优异,但这类模型在捕捉不同时间步长下特征重要性的变化方面仍可能存在局限性,尤其是在处理具有复杂时空依赖关系和异构特征相关性的热负荷数据时。因此,将注意力机制(ATT)整合到混合框架中引起了研究人员的广泛关注。为了进一步提升混合预测模型中的时空表征能力,注意力机制越来越多地被纳入其中,以实现特征重要性和全局时空依赖关系的自适应建模。受人类认知过程中选择性关注重要信息的启发,ATT在训练过程中会动态地为最相关的时间步长分配权重,从而使模型能够捕捉关键特征,提升其处理时间序列数据中长期依赖关系和全局模式的能力[25]。在混合深度学习架构中,将ATT与卷积和RNN相结合已成为时间序列预测领域的代表性范式。李等人开发了一种整合了ATT-TCN-LSTM的模型,用于短期电力负荷预测,实验结果表明,该模型的预测精度有了显著提升[26]。熊等人提出了一种基于VMD的TCN-LSTM-ATT模型,用于短期负荷预测,实验结果表明,引入ATT机制显著降低了预测误差[27]。程等人提出了一种用于预测储能系统能耗的混合ATT-TCN-LSTM框架,这种组合方法在预测精度和稳定性方面均优于传统神经网络[28]。于等人针对建筑群的制冷负荷预测问题,提出了一种整合了ATT机制的混合深度学习模型,该模型在综合能源系统中展现出较强的适应性[29]。在热负荷预测领域,经过注意力机制增强的混合架构也表现出强大的预测性能。兰等人提出了一种新型的ATT-CNN-LSTM框架,对比实验结果表明,该模型的预测精度优于基准模型,且引入ATT机制显著提升了模型的预测性能[30]。杨等人将ATT机制嵌入到TCN-LSTM框架中,实验结果表明,即使在缺乏可靠天气预报输入的情况下,该模型也能显著提升热负荷预测精度[31]。总体而言,将ATT、TCN和LSTM整合在一起,使得混合模型能够有效捕捉时间序列数据中的长期依赖关系和全局模式,同时有选择地关注对预测结果有关键影响的特定时间步长和输入特征,从而显著提升热负荷预测任务的预测性能。另一方面,尽管整合TCN、ATT机制和LSTM在时间序列预测方面展现出显著优势,但深度学习模型的预测性能仍对超参数配置极为敏感。在热负荷预测任务中,合适的超参数配置与预测精度和模型稳定性密切相关。然而,为复杂的混合模型手动调整超参数既费时又低效。为了进一步提升预测性能,有必要运用优化算法来寻找深度学习模型的最优超参数配置。因此,采用优化算法来高效确定最优超参数配置变得越来越重要,这也促使人们越来越关注元启发式优化方法。例如,哈梅顿等人对应用于LSTM时间序列预测的基于群体智能的元启发式算法进行了全面综述,强调了它们在提升模型预测性能方面的关键作用[32]。祖尔菲卡尔等人提出了一种改进的粒子群优化(mPSO)算法,用于优化LSTM的超参数,实验结果表明,该模型不仅优于传统的LSTM模型,也优于经过GA优化的LSTM模型[33]。石等人将CEEMD分解与遗传算法相结合,用于优化LSTM的超参数,该方法有效降低了综合能源系统多负荷预测任务中的预测误差[34]。崔等人比较了遗传算法、粒子群算法以及鲸鱼优化算法在优化CNN-ATT-LSTM模型超参数方面的效果。实验结果表明,所有优化后的模型均优于基线CNN-LSTM模型,其中WOA-CNN-ATT-LSTM模型的整体预测性能最佳[35]。胡等人采用改进的三角形拓扑聚合优化器来优化混合电力预测模型的超参数,实验结果显示该模型在短期负荷预测中具有更高的预测精度和稳定性[36]。然而,将TCN和ATT机制整合到LSTM框架中会显著增加模型的结构复杂性以及超参数空间的维度,从而给高效且稳健的超参数优化带来巨大挑战。在此背景下,尤其需要具备强大全局搜索能力、快速收敛性以及在高维搜索空间中良好可扩展性的优化算法。强化精英遗传算法作为传统遗传算法的改进版本,通过引入精英保留策略和自适应变异机制,提升了在高维复杂搜索空间中的全局搜索能力和收敛速度[37]。近期研究已证明其在深度学习模型超参数优化方面的有效性和稳健性。例如,周等人应用SEGA优化LSTM模型的超参数,显著提升了地震预测的精度[38]。李等人则用SEGA优化多约束结构负荷预测模型,实验结果表明该方法具有高精度和高效率[39]。总之,混合TCN-ATT-LSTM架构在热负荷预测方面展现出巨大潜力,但其实际应用仍面临明显的非线性、多变量耦合、高维参数空间以及对超参数配置的高度敏感性等问题。为解决这些问题,本研究引入SEGA作为一种高效且稳健的超参数优化策略。通过精英保留机制保持高质量的超参数组合,以及自适应变异机制维持种群多样性,SEGA实现了全局探索与局部利用之间的良好平衡,从而能够在复杂的高维搜索空间中实现高效优化。因此,本研究提出了一种由SEGA优化的、带有注意力增强功能的混合TCN-LSTM模型。这一混合框架不仅推动了复杂时间序列建模领域的深度学习方法发展,还为准确高效的热负荷预测提供了实用解决方案,进而有助于智能供暖管理、提升能源效率,以及实现碳中和的目标。精确的热负荷预测对于提升区域供热系统的运行效率至关重要。尽管已有大量研究探索基于混合LSTM的模型以提高预测性能,但在提取多尺度时间特征方面仍存在局限,且这些模型对超参数配置的依赖度很高。此外,混合架构深度的增加也大大提升了超参数优化的难度。本研究创新性地提出了一种新的SEGA-TCN-ATT-LSTM模型,通过将先进的LSTM模型与高效的元启发式算法相结合,弥补了混合模型在超参数优化效率上的不足,显著提升了热负荷预测的性能。深度学习模型在捕捉热负荷预测中的长距离时间依赖关系方面表现出强大能力,其中基于混合LSTM的模型在预测精度和泛化能力方面具有显著优势。不过,这类模型的预测性能对超参数配置极为敏感,而且随着混合架构深度的增加,超参数优化的复杂性也会大幅上升,优化算法很难同时兼顾优化效果和搜索效率。目前,关于混合深度学习模型超参数优化效果与效率的研究还较为缺乏。一种新型混合模型架构:本研究开发了一种带有注意力增强功能的TCN-LSTM模型,该模型整合了时间卷积网络、注意力机制以及长短期记忆网络。这种架构能够有效捕捉多尺度时间依赖关系,并突出关键的局部模式,从而显著提升区域供热系统中热负荷预测的精度。一种高效的超参数优化算法:本研究采用强化精英遗传算法来优化混合模型的多维超参数。该算法通过提升全局搜索效率和稳健性,使得经过优化的模型相比传统算法具有更快的收敛速度和更出色的预测性能。其预测精度极高(R2 = 0.9860,MSE = 0.0070,MAE = 0.0547),充分证明了其在微调复杂深度学习架构方面的有效性。全面对比与验证:本研究对基线LSTM模型、TCN-LSTM模型、TCN-ATT-LSTM模型以及分别采用粒子群算法、鲸鱼优化算法、遗传算法和SEGA算法优化的混合模型进行了广泛对比分析。此外,还通过独立数据集对所提出的框架进行了进一步验证。实验结果表明,SEGA-TCN-ATT-LSTM模型在预测精度和优化效率方面始终优于其他模型,这充分体现了将先进混合架构与高效优化策略结合在热负荷预测中的应用效果和稳健性。本文的其余部分结构如下:第2节详细介绍了本研究中所使用的算法和模型,包括热负荷预测模型的构建、超参数优化算法的设计,以及用于评估预测性能的指标。第3节展示了实验结果,包括不同预测模型的对比分析、各类超参数优化算法在预测精度和收敛效率方面的评估,以及在该独立数据集上对所提框架的验证。第4节总结了研究的主要发现,分析了当前工作的局限性,并指出了未来研究的方向。案例描述:本研究的数据来源于现场测量和数值模拟。研究对象是中国辽宁省大连市某校园内的实验办公楼,该建筑在供暖季节由区域供热系统供热。在测量期间,记录了室外气象数据和室内空气温度,部分测量结果被直接用作在DeST-c软件中开发的数值模型的边界条件。通过将模拟结果与实际情况相对照……预测性能对比:为系统地分析SEGA-TCN-ATT-LSTM框架中各组件的作用,本研究进行了一系列消融实验。首先建立了一个基线LSTM模型,然后逐步引入TCN模块、注意力机制以及基于SEGA的超参数优化策略。每种变体仅在是否包含某个特定组件方面有所不同,从而可以分别了解TCN、ATT和SEGA对热负荷预测的贡献。结论:本研究提出了一种新的混合深度学习框架——SEGA-TCN-ATT-LSTM,用于应对区域供热系统中热负荷预测这一难题。该模型通过整合时间卷积网络、注意力机制以及长短期记忆网络,能够有效捕捉多尺度时间依赖关系、关键的局部动态,以及短期和长期的时间模式。为进一步提升性能,该模型还采用了强化……术语表:缩写符号说明:ARIMA:自回归积分滑动平均模型;Iw:工作时间指标;ATT:注意力机制;Lr:照明率;Bi-LSTM:双向长短期记忆网络;Or:占用率;CNN:卷积神经网络;Rsol:太阳辐射;DHS:区域供热系统;To:室外温度;ETTAO:改进的三角形拓扑聚合优化器;Ts:室温设定值;GAG:遗传算法;Qt?1:t?1时刻的热负荷;LightGBM:光梯度提升算法;Qt?2:t?2时刻的热负荷;LSTM:长短期记忆网络;CRediT:作者贡献声明:李慕燕:撰写——初稿、可视化、验证、软件、方法论、数据整理、概念设计;王海超:撰写——审稿与编辑、可视化、项目管理、资金获取;王天宇:撰写——审稿与编辑、监督、形式分析;王安庆:可视化;吴文涛:撰写——审稿与编辑、方法论、概念设计;拉赫德尔马·里斯托:资源提供、项目管理。利益冲突声明:作者声明没有已知的可能影响本文所述工作的财务利益或个人关系。致谢:本研究得到了中国国家重点研发计划——中芬科技创新政府间合作项目的支持(2021YFE0116200)。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号