《Signal Processing: Image Communication》:A Dynamic Sliding Reversible Flow Model with Reversible Attention Modules for Industrial Anomaly Detection
编辑推荐:
•提出了一种用于工业缺陷检测和定位的DSRFlow模型。•设计了一个可逆的空间-通道注意力模块,用于局部特征建模。•设计了一个可逆的频率注意力模块,用于全局语义感知。•提出了一种动态滑动和冻结机制,用于自适应配置。•构建了一个球形齿轮的ZQAD数据集,用于工业异常检测。引言工
- •
提出了一种用于工业缺陷检测和定位的DSRFlow模型。
- •
设计了一个可逆的空间-通道注意力模块,用于局部特征建模。
- •
设计了一个可逆的频率注意力模块,用于全局语义感知。
- •
提出了一种动态滑动和冻结机制,用于自适应配置。
- •
构建了一个球形齿轮的ZQAD数据集,用于工业异常检测。
引言
工业视觉异常检测旨在利用计算机视觉技术自动识别和定位工业产品中的缺陷。工业异常检测系统通常面临高度变化的条件,如照明波动、机器状态变化和传感器数据中的噪声,这些进一步增加了缺陷检测的复杂性。这些现实世界的复杂性要求检测系统不仅准确,而且鲁棒,并能适应动态环境。因此,传统的异常检测方法,特别是那些依赖固定模型的方法,难以在多种缺陷类型和工业场景中泛化。早期研究主要关注图像级异常分类,判断图像是否包含缺陷,而往往忽视精确定位。随着智能制造和工业自动化的快速发展,异常检测系统越来越需要提供准确的分类和可靠的定位,以支持及时修复和生产调整。
工业异常检测在质量控制和设备监控中起着关键作用,特别是在金属加工[1]、电子组装[2]和纺织生产[3]等领域,快速准确的缺陷检测直接影响产量和成本。从测量角度来看,异常分数和缺陷定位结果可以被视为反映制造公差偏差的定量指标。然而,实际工业场景面临重大挑战,包括异常样本稀缺、标注成本高和缺陷长尾分布,这限制了监督检测方法的应用。
此外,新的面向仪器的视觉测量方法,包括图引导的检测框架[55]、太赫兹成像的方向感知注意力[56]以及样本受限场景下的物理信息神经网络[57],为工业视觉检测带来了新的见解。这些工作启发我们在未来的异常检测研究中考虑多传感器信息和领域物理先验。
无监督异常检测通过仅对正常样本建模,并将异常识别为与学习分布的偏差来解决这些问题。因此,它在工业检测任务中引起了越来越多的关注。大多数无监督方法依赖重建误差来检测异常[[4], [5], [6], [7]],但它们往往因复杂纹理和类内变异而产生假阳性,当缺陷被无意重建时还会出现漏检。此外,对多尺度特征的有限适应性限制了它们捕获精细纹理和大结构异常的能力。这些局限性促使人们探索替代范式,其中基于归一化流的方法由于其显式概率建模能力而显示出巨大的潜力。
归一化流(NF)[8]通过一系列可逆变换实现了精确的似然估计。归一化流通过可逆变换对复杂的多维分布进行建模的能力使其成为异常检测任务的理想选择。通过学习正常数据的分布,流模型可以检测与该分布的偏差,从而识别潜在的异常。此外,基于流模型的显式概率特性使得异常分数更具可解释性,为异常检测和定位任务提供了坚实基础。该方法首次应用于图像级异常检测[9],随后使用条件流架构扩展到像素级定位[10]。后续研究探索了跨尺度建模[11]和多尺度并行流设计[12],以提高不同缺陷尺寸的检测性能。尽管取得了这些进展,现有的基于流的方法在感受野建模、空间-频率特征融合和架构灵活性方面仍面临局限性。
为解决这些问题,本文提出了一种基于多尺度并行流框架的新型基于流的异常检测模型,称为DSRFlow。DSRFlow独立变换多尺度特征,同时通过融合流集成跨尺度信息。通过引入面向任务的可逆注意力模块,所提出的模型 enhanced 了特征表示和异常定位能力。在MVTec AD、VisA和MPDD上的实验结果表明,DSRFlow在图像级异常检测和像素级定位方面均取得了有竞争力的性能。此外,在新构建的ZQAD数据集上的实验验证了所提方法在真实工业检测条件下的适用性。在MANTA基准上的额外实验进一步评估了DSRFlow对微小物体检测和视图图像输入的适应性。本工作的主要贡献总结如下:
- (1)
提出了一种可逆协同空间-通道注意力(RSCA)模块,在可逆框架内联合建模空间和通道依赖关系,提高复杂背景下的局部异常检测能力。
- (2)
引入了一种可逆频率注意力(RFA)模块,通过可逆变换纳入频域信息,增强对频谱异常模式的敏感性。
- (3)
设计了一种动态滑动块和冻结机制(DSFM),根据正常验证数据的似然值自适应优化多尺度流分支的深度,实现无需使用异常标注的类别自适应架构选择。
本文其余部分组织如下。第2节回顾无监督异常检测以及最近的基于流的、多类别和多视图异常检测方法。第3节介绍预备知识。第4节提出DSRFlow框架及其关键组件。第5节报告实验结果和消融研究,第6节对论文进行总结。
章节摘要
无监督异常检测
无监督异常检测旨在不需要标注的缺陷数据,通过学习正常样本的分布来识别异常样本。与依赖大量标注异常的监督方法不同,无监督方法基于与学习到的正常分布的偏差来确定异常。虽然无监督异常检测为标注数据稀缺的情况提供了一种解决方案,但工业环境中异常样本的稀缺性进一步…
归一化流与耦合机制
归一化流(NF)[8]是一种生成模型,通过一系列可逆变换将复杂的数据分布映射到简单的分布,从而实现精确的密度估计。由于其显式似然建模和严格的可逆性,NF特别适合于无监督异常检测,其中学习正常样本的分布,并在推理过程中基于低对数似然值来识别异常。
设输入变量记为x,且…
方法
本节介绍所提出的无监督异常检测模型DSRFlow,如图2所示。该模型遵循多尺度非对称并行流架构。在前三个阶段提取的多尺度特征图被池化并输入到相应的并行归一化流中,输出随后被融合以进行异常检测和定位。在每个并行流中,可逆协同空间-通道注意力(RSCA)和可逆全局…
实验
为了全面评估DSRFlow在无监督工业异常检测和定位方面的有效性,在多个公共和真实世界数据集上进行了大量实验。MVTec AD和VisA被用作主要的公共基准,而MPDD则进一步引入以评估所提模型在不同工业缺陷分布下的鲁棒性。此外,所提出的ZQAD数据集被用于评估DSRFlow的实用性…
结论
本文提出了DSRFlow,一种用于无监督工业异常检测的多尺度可逆流模型。该模型将归一化流与可逆空间-通道注意力(RSCA)和可逆频率注意力(RFA)模块相结合,以共同捕获局部空间细节和全局频率信息,从而增强异常检测和定位性能。此外,引入了一种动态滑动块和冻结机制(DSFM)来自适应…
CRediT作者贡献声明
张翔宇:撰写——原稿、可视化、验证、软件、方法论、调查、形式分析、数据整理、概念化。温国军:验证、项目管理、资金获取。刘兴跃:撰写——审阅与编辑、验证、资源、项目管理、调查、资金获取、概念化。
竞争利益声明
本稿件的提交不存在利益冲突,且该稿件已获得所有作者的批准发表。我谨代表我的合作者声明,本文描述的工作是原创研究,此前未曾发表,也未在其他地方考虑发表(无论是全部或部分)。所有列出的作者均已批准所附稿件。
致谢
作者感谢国家自然科学基金(批准号52305623)、武汉市自然科学基金(批准号2024040801020282)以及中国地质大学(武汉)中央高校基本科研业务费专项资金(批准号120-162301212389)的经费支持。
张翔宇 | 温国军 | 刘兴跃