《Algorithms》:MTFSC: A Self-Supervised Transferable Representation Learning Algorithm for Diagnosing Cross-Machine Faults in Rotating Machinery
编辑推荐:
旋转机械是现代工业的关键部件,其运行状态直接影响设备安全和生产可靠性。然而,不同机器间的差异会导致源域-目标域分布偏移,同时为目标机器进行故障标注成本高昂,这限制了基于深度学习的诊断方法在标签有限的跨机器场景下的性能。为解决这些问题,本文提出了一种基于自监督可
旋转机械是现代工业的关键部件,其运行状态直接影响设备安全和生产可靠性。然而,不同机器间的差异会导致源域-目标域分布偏移,同时为目标机器进行故障标注成本高昂,这限制了基于深度学习的诊断方法在标签有限的跨机器场景下的性能。为解决这些问题,本文提出了一种基于自监督可迁移表征学习的多尺度时频语义一致性模型,称为MTFSC。首先,利用未标注的源域振动信号构建增强波形视图和多尺度频域视图,进行无需源域标签的自监督预训练。然后,设计了一个时域脉冲感知特征提取器和一个时频解耦谱特征提取器,以增强局部脉冲响应并强调故障敏感的时频模式。此外,开发了一种语义感知软对比损失,通过多尺度频域结构相似性挖掘潜在的语义邻居,减少传统硬标签对比学习中的假阴性效应。最后,将预训练的时域提取器迁移到目标机器,并使用有限的标注样本进行微调。实验结果表明,在不同标注样本比例下,MTFSC均优于对比方法,并在四个跨机器诊断任务中取得了97.5%的平均准确率。
### 论文解读:MTFSC——面向旋转机械跨机器故障诊断的自监督可迁移表征学习算法
#### 研究背景与问题提出
旋转机械是机械设备长期稳定运行的关键动力传输和支撑单元,广泛应用于轨道交通、航空航天和工业生产系统。在长期服役过程中,此类机械常承受交变载荷、脉冲振动和复杂环境干扰。一旦发生故障,可能导致设备停机甚至严重安全事故。因此,及时准确地识别旋转机械的运行状态并确定故障类型,对保障设备安全、降低维护成本及提高工业系统可靠性具有重要意义。
传统的旋转机械故障诊断方法通常通过时频分析和信号分解技术提取故障特征,然后利用基于机器学习的分类器进行状态识别。然而,这些方法通常依赖专家经验进行特征设计,对不同工作场景和非平稳运行条件的适应性有限。当设备结构和运行条件变化时,手工特征的稳定性和泛化能力往往难以保证。随着传感技术、工业物联网和大数据分析的发展,基于深度学习的智能故障诊断逐渐成为旋转机械健康监测领域的重要研究方向。深度学习模型能够从输入信号中自动挖掘深度非线性特征,在复杂故障识别任务中展现出强大的特征表征能力。尽管深度学习方法在旋转机械故障诊断中取得了显著进展,但在实际工程应用中仍存在若干关键局限。首先,大多数基于深度学习的诊断模型依赖大量高质量标注数据进行训练。然而,旋转机械通常长期处于健康状态运行,导致真实故障样本数量有限。此外,故障数据标注通常需要领域专业知识和实验验证,获取可靠标签的成本高昂。其次,大多数监督学习模型假设训练和测试数据遵循相同或相似的分布。但在真实工业场景中,设备类型、机械结构、传输路径、转速和采样条件可能存在差异,导致源域和目标域之间存在显著的分布差异。对于不同的机器或运行条件,通常需要重新收集数据、重新标注样本并重新训练诊断模型,这不仅增加了模型部署成本,也限制了深度学习方法在多个设备和场景中的广泛应用。因此,如何充分利用现有数据,在目标机器标签有限的条件下学习可迁移且泛化性强的故障表征,已成为旋转机械智能故障诊断的重要课题。
为缓解数据分布差异和目标域标注不足的影响,迁移学习和跨域诊断方法被广泛引入旋转机械故障诊断。然而,现有研究大多关注同一机器不同工况下的迁移问题。当诊断对象扩展到不同机器时,机械结构、故障模式和信号传输路径的差异变得更加显著。在这种情况下,仅依赖分布对齐或伪标签优化的跨域方法容易出现特征不匹配、负迁移和泛化不足的问题。与跨工况诊断相比,跨机器故障诊断更符合实际工程部署场景,也更具挑战性。在跨机器条件下,源机器和目标机器可能在轴承类型、结构参数、运行范围和故障产生机制上存在差异,导致故障信号分布差异显著扩大。此外,大多数跨机器诊断方法仍依赖源域标注数据或多源域标注信息来学习判别性决策边界。同时,复杂的因果解耦、域对齐或伪标签过滤等过程可能增加模型的训练复杂度。当目标域仅有极少量标注样本可用,或目标机器与源机器存在显著差异时,所学特征表征的稳定性仍需进一步提升。
自监督预训练知识迁移为解决上述问题提供了新视角。其基本思想是在数据丰富的源域预训练一个特征提取器,使模型能够学习通用的故障表征,然后将其迁移到目标域的下游诊断任务中,仅使用少量标注样本进行微调。与直接监督训练相比,自监督预训练知识迁移可以通过预定义的代理任务从未标注数据中挖掘潜在结构信息,使模型无需依赖人工标注即可学习有用表征。近年来,自监督预训练知识迁移已被引入旋转机械故障诊断。这些方法有效降低了诊断模型对标注数据的依赖。然而,它们主要关注同一数据集或同一平台内的少样本诊断,对跨机器分布差异的适应性仍然有限。一些对比学习方法依赖正负样本对的构建,可能会错误地将具有相似故障模式的不同样本视为负样本。因此,少数研究者已开始探索面向跨机器场景的自监督预训练诊断方法。这些研究表明,自监督预训练在跨机器故障诊断中具有巨大潜力。尽管跨机器自监督预训练方法为有限标注目标机器的故障诊断提供了有效解决方案,但在复杂工程场景中仍面临若干挑战。跨机器诊断涉及多因素差异,源域预训练表征在目标域容易出现迁移不足甚至性能下降。此外,大多数现有的自监督代理任务从视图一致性、实例判别或掩码重建等角度构建训练目标,而对故障信号中固有的时变脉冲、频带响应及样本间潜在语义关系的考虑不足。因此,在复杂噪声干扰和跨域分布偏移下,预训练特征的判别性和鲁棒性仍然有限。
#### 研究内容与方法概述
为解决上述问题,本文提出了一种基于自监督可迁移表征学习的多尺度时频语义一致性模型。该方法从源域未标注的振动信号构建增强波形视图和多尺度频域视图,并通过双分支自监督预训练学习可迁移的故障表征。在特征提取层面,设计了一个时域脉冲感知特征提取器和一个频域时频解耦特征提取器,使模型能够聚焦于波形中的局部脉冲段、频域视图中的关键时间帧以及对故障敏感的频带。在预训练目标中,构建了一种语义感知软对比损失,基于多尺度频域表征的结构相似性为潜在的语义邻居分配软正权重,从而缓解传统对比学习中的假阴性问题。预训练后,保留时域编码器作为下游诊断的主干网络,并使用目标机器的少量标注样本进行微调,以实现跨机器故障识别。值得注意的是,MTFSC并非简单地组合波形增强、时频表征、注意力模块和对比学习,而是基于旋转机械故障信号的固有特性和跨机器可迁移表征学习的需求进行设计。具体而言,波形信号对局部冲击和周期性瞬态响应更敏感,而多尺度频域视图可以在不同时频分辨率下提供对故障敏感频带结构的互补描述。因此,双分支架构旨在从这两种视图中提取互补的故障信息。此外,具有相似故障机制的不同样本可能表现出相似的时频结构。如果直接采用传统的硬标签对比学习方法,这些语义相似的样本可能会被错误地视为负样本,并在表征空间中被推远。为解决此问题,所提出的语义感知软对比损失利用多尺度频域视图的结构相似性来探索潜在的语义邻居,从而增强自监督特征空间的组织性和可迁移性。该框架在信号表征、特征提取和学习目标上实现了统一设计,而非简单地堆叠现有模块。
#### 关键技术方法
研究人员为开展此项研究,主要采用了以下关键技术方法:
1. **双视图构建与数据增强**:从未标注的源域振动信号出发,通过添加随机信噪比高斯噪声构建增强波形视图,以保留原始时间序列中的脉冲和波动信息。同时,利用多个短时傅里叶变换窗口长度生成多尺度频域视图,以描述不同时频分辨率下的能量分布,为自监督一致性学习提供输入基础。
2. **故障敏感的双分支特征提取结构**:设计了时域脉冲感知特征提取器和频域时频解耦特征提取器。时域分支通过引入脉冲注意力模块,增强对波形中局部冲击和周期性调制信息的关注;频域分支则通过时频解耦注意力模块,分别关注频谱图中的关键时间帧和故障敏感频带,提升特征的判别性和稳定性。
3. **语义感知软对比损失函数**:构建了一种创新的损失函数,通过计算多尺度频域视图之间的结构相似性来挖掘潜在的语义邻居,并为这些邻居分配软正权重。这避免了传统硬标签对比学习中将语义相似样本错误推远的问题,从而改善了自监督特征空间的语义组织,提升了模型在目标域有限标注样本下的迁移诊断性能。
4. **基于自注意力的双投影头**:为时域和频域分支分别配备了一个基于自注意力机制的投影头,将高维特征映射到统一的低维表征空间,以建模特征维度间的关系,实现更稳定的跨视图特征对齐。
5. **实验设计与验证**:研究使用了帕德博恩大学轴承数据集作为源域预训练数据,并利用两个自建的轴承故障模拟实验平台(分别记为平台1和平台2)收集目标域数据,构建了四个跨机器诊断任务。通过线性评估协议、消融实验和与多种代表性自监督或迁移诊断模型的对比,全面验证了所提方法的有效性和鲁棒性。
#### 研究结果
**4.1 消融实验**
* **数据增强超参数消融**:实验分析了不同信噪比范围和增强概率对模型性能的影响。结果表明,当信噪比范围设置为[0, 15] dB且增强应用概率为0.8时,模型取得了最高的诊断准确率(96.25%),表明适度的扰动能在保留故障信号主要结构的同时增强模型鲁棒性。
* **各结构影响消融**:通过逐步移除语义感知软对比损失、时频解耦注意力模块和时域脉冲注意力模块,构建了多个消融模型。实验结果表明,完整的MTFSC模型(A1)取得了最佳的平均准确率(95.98%)和最小的标准差,验证了各关键模块的联合贡献。移除任一模块都会导致性能下降,特别是移除两个注意力模块后,模型性能显著降低。
* **投影头消融**:比较了多层感知机投影头和自注意力投影头的效果。实验表明,采用自注意力投影头(准确率96.25%)优于多层感知机投影头(准确率93.87%)。进一步的参数分析确定了隐藏层维度为256、注意力头数为1为较优配置。
* **语义感知软对比损失超参数敏感性分析**:对总软正样本权重β、语义邻居数量K和语义温度参数τ
s进行了敏感性分析。结果表明,在β=0.2,K=3的设定下,模型能在语义紧凑性和特征判别性之间取得良好平衡,且性能在合理参数范围内保持相对稳定。
**4.2 对比实验**
* **预训练模型先进性验证(案例1)**:采用线性评估协议,在不同比例的标注样本(1%, 5%, 10%, 15%, 20%)下测试了各预训练模型的表征能力。结果表明,在所有标注比例下,MTFSC均取得了最高的诊断准确率,特别是在仅1%标注样本时达到了91.09%,显著优于对比模型,证明了其预训练特征具有更强的判别性和下游适应性。
* **各模型跨机器性能对比验证(案例2)**:在四个跨机器诊断任务(平台1和平台2,各在1500 rpm和2100 rpm转速下)上进行了测试。MTFSC在所有任务中均取得了最高的识别准确率(分别为96.25%, 97.38%, 98.50%, 97.88%),平均准确率达到97.50%,显著优于其他对比模型(如TFDDP, TFDDCF, DDTLN等)。混淆矩阵分析进一步显示,MTFSC对健康状态、单一故障和多部件复合故障均保持了较高的识别精度,类别判别能力更强。
#### 讨论与结论
**讨论部分总结**:研究结果揭示了所提方法与引言中讨论的研究空白之间的关系。与传统迁移学习方法相比,MTFSC不依赖源域类别标签来学习固定的监督分类器,而是首先通过自监督预训练从未标注的源域信号中学习可迁移的故障表征。这一设计特别适用于源机器和目标机器在机械结构、信号传输路径、故障产生机制和运行条件上存在差异的跨机器诊断场景。DDTLN相对较低的性能表明,当不同机器间的域差异较大时,直接对齐源域和目标域的特征分布可能不足。尽管TFDDP和TFDDCF也利用了自监督时频信息,但其性能仍低于MTFSC,这表明仅依赖传统的时频一致性或融合方法可能无法完全解决将语义相似样本误判为负样本以及故障样本间潜在语义关系的问题。相比之下,MTFSC利用多尺度频域结构相似性探索潜在的语义邻近关系,并在对比学习中引入软正权重,有助于防止语义相似的故障段在特征空间中被过度分离,从而提高了所学表征的可迁移性和类间分离性。此外,尽管源域数据集和目标域数据集的类别空间不同,但MTFSC学习到了与类别无关的故障相关表征。在下游阶段,基于目标域八个健康状态重新初始化分类层,并使用有限的标注目标样本进行微调。因此,实验结果表明,即使存在类别不匹配,所学表征也能有效适应目标域的诊断任务。值得注意的是,当前验证仍受目标平台数量和类型的限制。未来工作将进一步考虑未见故障类型、更复杂的运行条件(如强噪声干扰、变负载运行以及不同的传感器安装位置,特别是安装在电机外壳上的传感场景)、现场工业数据以及不平衡的故障分布,以进一步提升所提方法在实际工业监测系统中的适用性。
**研究结论翻译**:
(1) 提出了一种用于跨机器故障诊断的多尺度时频语义一致性自监督学习框架。该框架能够从未标注的振动信号中提取可迁移的故障表征,从而降低模型对目标域大量标注样本的依赖。
(2) 设计了时域脉冲感知特征提取器和频域时频解耦特征提取器。这些模块能够增强振动波形中的局部脉冲和周期性冲击特征,同时关注多尺度频谱图中的关键时间帧和故障敏感频带。
(3) 构建了一种语义感知软对比损失函数。与传统的基于硬标签的跨视图一致性约束相比,所提出的损失进一步利用频域结构相似性来表征样本间的潜在语义关系,缓解了相似故障样本可能被错误视为负样本的问题。从而,改善了自监督预训练特征空间的语义组织能力和类别分离性。
(4) 基于PU源域数据集和两个自建目标域轴承故障数据集进行了消融研究、线性评估和跨机器诊断对比实验。实验结果表明,在不同的实验场景下,MTFSC均优于所选对比模型。四个跨机器诊断任务的平均准确率达到97.50%,验证了所提方法在跨机器条件下的有效性和鲁棒性。