基于自注意力循环神经网络的振动信号配电网变压器故障预后分析

《Results in Engineering》:Vibration-Based Distribution Transformer Fault Prognosis Using Recurrent Neural Networks with Self-Attention

【字体: 大 中 小 】 时间:2026年04月05日 来源:Results in Engineering 7.9

编辑推荐:

  本研究针对配电网和电力变压器作为关键设备在交流能源系统中的状态监测难题,探索了一种更精确的故障诊断方法。传统振动信号分析方法效果有限,而深度循环神经网络(RNNs)虽已展现出潜力,但其性能仍有提升空间。为此,研究人员将多头自注意力机制(MHSA)与双向门控循环单元(BiGRU)和双向长短期记忆网络(BiLSTM)相结合,构建了混合模型用于变压器故障预测。实验结果表明,MHSA-BiGRU模型在预测励磁电压时,相比BiGRU将相对绝对误差(RAE)降低了48%;MHSA-BiLSTM模型在预测匝间短路电流时,相比BiLSTM将RAE降低了28%。这项研究证明了整合MHSA能有效提升基于RNN的模型性能,为电力系统实现更精准、更鲁棒的状态监测提供了新方向。

  
电力变压器是电网稳定运行的基石,肩负着电压转换、电压调节乃至谐波消除等重任。然而,这些“大家伙”内部结构复杂,一旦发生故障,不仅会导致大面积停电,还会造成巨大的经济损失。因此,如何像“预言家”一样,在故障发生前就捕捉到其蛛丝马迹,实现精准的故障预后,一直是电力行业孜孜以求的目标。传统的“体检”方法,如溶解气体分析(DGA)、频率响应分析(FRA)和局部放电(PD)分析,虽然有效,但各有局限。DGA可能受多种因素干扰导致诊断不准;FRA离线测试繁琐,且结果解读依赖专家经验;PD分析则信号处理复杂。近年来,振动分析作为一种非侵入式方法崭露头角,因为变压器铁芯和绕组的振动直接与磁通量相关,而磁通量又与内部物理结构和电气属性紧密相连,这使得振动信号成为了解变压器“健康状况”的一扇重要窗口。问题在于,如何从这些复杂的振动时序信号中,精准地解读出故障信息?
这正是机器学习大显身手的舞台。此前的研究已证明,深度循环神经网络(RNN),特别是双向长短期记忆网络(BiLSTM)和双向门控循环单元(BiGRU),在分析振动信号预测变压器故障方面已展现出光明前景。与此同时,在自然语言处理等领域大放异彩的多头自注意力机制(MHSA),因其在处理序列数据方面的卓越能力而备受关注。那么,一个自然而然的问题产生了:将MHSA这股“新力量”引入RNN家族,能否为变压器故障预测这块“硬骨头”带来突破性的性能提升?这正是本文《基于自注意力循环神经网络的振动信号配电网变压器故障预后分析》所要探究的核心问题。
研究人员为了回答上述问题,主要采用了以下关键技术方法:首先,通过可控的实验室实验,采集变压器在不同励磁电压(模拟过励磁/欠励磁状态)和不同匝间短路电流下的振动时间序列数据作为数据集。其次,构建并训练了MHSA与BiGRU/BiLSTM结合的混合模型(MHSA-BiGRU和MHSA-BiLSTM)。模型首先利用堆叠的双向RNN层从预处理后的振动信号片段中提取时序特征,然后将最后一层RNN输出的所有时间步的隐藏状态序列输入MHSA层,通过自注意力机制计算隐藏状态之间的相关性并生成一个加权的上下文表征,最后通过一个全连接层输出预测的故障指标值。研究通过网格搜索确定了模型的最佳超参数组合。

2. Multi-Head Self-Attention and Recurrent Neural Networks

本章节详细阐述了研究所用的核心模型架构。循环神经网络(RNN) 通过隐藏状态记忆序列信息,但其训练存在梯度消失或爆炸问题。长短期记忆网络(LSTM) 和门控循环单元(GRU) 通过门控机制缓解了此问题。双向RNN(BiRNN),包括双向LSTM(BiLSTM)和双向GRU(BiGRU),通过同时处理序列的前向和后向信息,能更全面地捕捉上下文依赖。本研究的关键创新在于,在BiLSTM或BiGRU的最后一层之后,接入了一个多头自注意力(MHSA) 层。该机制允许模型同时关注序列中所有时间步的隐藏状态,通过计算它们之间的相似度(兼容性),为每个时间步生成一个包含全局信息的“上下文向量”。这种设计使模型能够动态地聚焦于与当前预测最相关的历史信息,而不仅仅是依赖RNN最后时刻的隐藏状态。最终,MHSA层的输出被展平并送入一个全连接层进行回归预测。

3. Experimental setup

3.1. Dataset

研究使用了两个数据集来验证模型的有效性。
  1. 1.
    变压器欠励磁/过励磁电压:在一个15 kVA的三相树脂浇注干式隔离变压器上,通过三相自耦变压器系统改变一次侧励磁电压(从额定值的80%到110%),并采集铁芯和绕组顶部的振动信号。振动信号被分割成0.02秒(60个数据点)的片段作为模型输入。
  2. 2.
    匝间短路电流:在一个240/30/30 V的单相变压器上,通过在不同负载条件下,使用可变电阻连接绕组匝间来模拟匝间短路故障,并采集振动数据。同样将信号分割为0.02秒的片段。

4. Model construction, selection, and evaluation

研究人员进行了广泛的超参数调优,搜索了注意力头数(k)、注意力维度(q)、隐藏单元数(M)和网络层数(N)等组合。模型选择基于在验证集上最小化均方误差(MSE)。结果表明,对于两个预测任务,性能最佳的模型配置相同:k=1(单头注意力),q=16,M=32,N=5。
为了评估模型,研究使用了相对绝对误差(RAE)和相对均方根误差(RRSE) 作为性能指标,并将新模型与之前研究中表现最好的纯RNN模型进行了对比。核心结论如下:
  • •
    在预测励磁电压的任务中,MHSA-BiGRU模型的RAE为0.29%,相比之前最佳的BiGRU模型(RAE为0.56%),相对误差降低了48%。
  • •
    在预测匝间短路电流的任务中,MHSA-BiLSTM模型的RAE为12.57%,相比之前最佳的BiLSTM模型(RAE为17.58%),相对误差降低了约28%。
    研究同时指出,引入MHSA模块仅增加了少量参数(对BiGRU和BiLSTM分别增加约9.7%和7.4%),计算开销在可接受范围内。

5. Discussion

讨论部分深入分析了研究成果的意义和局限性。研究指出,这项工作是在此前使用多层感知机(MLP)进行显式特征提取,以及使用纯RNN进行端到端学习的基础上,进一步引入自注意力机制来增强模型能力。自注意力机制通过利用所有时间步隐藏状态之间的序列相似性,能够计算出一个更丰富的表征,使模型在做出预测时能选择性地关注最显著的特征,这被认为是性能提升的关键。同时,文章也坦诚了研究的局限性,例如所使用的点积自注意力机制虽然高度可并行化,但其与本质上顺序处理的RNN结合,在计算并行性上并非最优。未来的研究可以探索其他可高度并行的架构(如卷积神经网络)与注意力机制的结合,或者研究专门为长时序预测设计的Transformer类模型(如Autoformer)。此外,当前研究基于受控的实验室数据,需要在真实运行条件下进行进一步验证。文章最后强调,所设计的框架具有通用性,可通过迁移学习等技术应用于具有类似测量模式的其他变压器监测数据集。

6. Conclusion

总结而言,这项研究成功地证实了将多头自注意力机制(MHSA) 整合到双向门控循环单元(BiGRU)和双向长短期记忆网络(BiLSTM) 中,能够显著提升基于振动时间序列的变压器故障预测性能。性能的提升归因于自注意力机制能够利用所有时间步之间的相似性,为RNN的隐藏状态计算出更丰富的表征,从而使模型能在预测生成过程中有选择地强调最显著的特征。尽管真实环境可能带来更多变数,但结果表明,注意力增强的RNN能够捕获与变压器故障预后相关的、符合物理规律的振动模式,为电力系统实现更准确、更鲁棒的状态监测指明了一个有前景的方向。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号