基于频率分离的联合决策归一化流方法,用于工业异常检测与定位

《Neurocomputing》:Joint decision normalizing flow based on frequency separation for industrial anomaly detection and localization

【字体: 大 中 小 】 时间:2025年12月11日 来源:Neurocomputing 6.5

编辑推荐:

  针对工业缺陷检测中频率偏置导致的模型学习不均衡问题,本文提出基于频率分离的联合决策归一化流方法(FJ-Flow)。通过Vision Transformer分离低频与高频特征,分别采用归一化流建模各频段分布,结合特征融合注意力机制实现跨频段信息交互,最终通过联合分布决策生成高精度异常评分。实验表明在MVTec AD和BTAD数据集上,该方法AUROC达99.5%,AUPRO达98.2%,显著优于现有方法。

  
Xingzhao Hua|Yu Chen|Yueming Hu|Yili Chen|Zhenting Yan|Jun Han|HuiLing Huang
中国科学院福建省物质结构研究所,中国福建省福州市,350108

摘要

在工业制造过程中,检测由不可预见情况引起的缺陷产品至关重要。尽管无监督异常检测方法已在该领域得到广泛应用,但这些方法在训练过程中常常存在频率偏差,导致模型对频率信息的学习不均衡,从而造成漏检或误检。为了解决这个问题,本研究提出了一种基于频率分离的联合决策归一化流(Joint Decision Normalizing Flow)。具体来说,采用图像变换器(Image Transformer, CaiT)中的类别注意力(Class attention)分别分离正常样本的低频和高频特征,同时利用归一化流(Normalizing Flow)估计不同频率域的分布。此外,还提出了一种特征融合注意力(Feature Fusion Attention)机制,以有效整合高频和低频信息,确保详细特征和结构特征的平衡表示。最后,通过综合这些不同频率域的分布信息来做出决策。该方法减少了训练过程中的频率偏差,提高了检测准确性。在MVTec AD数据集上进行的全面实验表明,我们的方法在图像级异常检测中达到了99.5%的AUROC值,体现了先进的性能和卓越的鲁棒性。此外,98.2%的AUPRO值验证了该方法在检测细粒度异常方面的有效性。

引言

工业生产中的不可控因素可能导致产品出现意外缺陷,这可能对后续产品产生负面影响,因此缺陷检测至关重要[1]、[2]、[3]、[4]。由于人工检测耗时且劳动密集,基于机器视觉的深度学习方法已被广泛用于缺陷检测。虽然监督式深度学习方法取得了一定的成果,但生产过程中缺乏负样本限制了其实际应用[5]。为了解决这个问题,无监督学习方法被广泛应用并在缺陷检测中取得了成功[6]、[7]、[8]。该方法通过学习正常样本的数据分布来检测异常,无需依赖异常样本。
无监督学习的一个有前景的方向是利用深度神经网络从正常图像中提取特征,然后进行统计建模。这类方法通常包括特征提取模块和分布估计模块[9]、[10]、[11]。在分布估计模块中,一些研究开始使用归一化流(Normaling Flow, NF)来估计分布。NF是一种可训练的过程,它通过最大化正常图像特征的对数似然值并利用概率来识别和定位异常[12]、[13]。在特征提取模块中,Defard等人[14]和Reiss等人[15]使用卷积神经网络(Convolutional Neural Networks, CNNs)[16]提取图像特征,而最近的研究如Yu等人[17]则使用视觉变换器(Vision Transformers, ViT)[18]提取图像特征,并证明ViT在特征提取方面明显优于CNNs。
然而,这些方法仅提取高维特征,导致图像中高频信息的丢失。这一限制使得难以同时捕捉高频细节和低频结构,从而难以有效识别细粒度异常,降低了检测准确性[19]、[20]、[21]。为此,本文提出了频率分离联合归一化流(Frequency-Separated Joint Normalizing Flow, FJ-Flow)。具体来说,我们使用ViT分离图像中的低频和高频信息,并分别利用这些特征进行模型训练。考虑到高频和低频信息之间的协同作用,我们引入了特征融合注意力(Feature Fusion Attention, FFA)机制,以促进不同频率域之间的信息交换,构建更全面的特征表示。与基于多尺度特征金字塔的分布估计方法不同,我们的方法利用NF独立估计不同频率域内的信息分布。最终异常得分是根据这些域的联合分布估计得出的。这种设计有效减少了传播和交互过程中关键特征信息的丢失[22]。为了进一步提高模型的通用性,还加入了体积归一化(Volume Normalization, VN)[13]以有效解决域间差异问题。总结来说,本研究的主要贡献包括:
  1. 1.
    我们提出了FJ-Flow,有效解决了训练过程中由频率偏差引起的频率信息学习不均衡问题。
  2. 2.
    我们设计了特征融合注意力(FFA),它为高频和低频信息分配全局注意力,避免干扰的同时促进信息交互。
  3. 3.
    从MVTec AD和BTAD异常检测数据集获得的实验结果表明,我们的方法优于以往的最先进异常检测方法。强有力的实验结果证明了所提出方法在检测细微缺陷方面的有效性。

异常检测方法

现有的异常检测方法可以分为基于重建的方法和基于表示的方法[23]、[24]、[25]。基于重建的方法旨在学习正常样本的表示,无法在测试中重建的区域被标记为异常。An和Cho[26]利用变分自编码器(Variational Autoencoders, VAEs)的强大泛化能力高效重建了异常;Gong等人[27]开发了一种增强记忆的自编码器

方法

无监督异常检测,也称为分布外检测,是指模型仅在正常样本上进行训练,然后测试图像是否异常。此外,异常定位还需要像素级标注以产生更精细的检测结果。一种主要的方法是基于表示的方法,它从正常图像中提取特征以构建特征分布,并计算异常得分

数据集

为了评估FJ-Flow的有效性,本文使用MVTec AD[43]和BTAD[44]数据集进行实验。MVTec AD包含15类工业缺陷图像,包括5类纹理和10类物体。它包含5454张高分辨率彩色图像,其中3629张无缺陷图像用于训练,1725张图像用于测试,包括正常图像和异常图像(涵盖70种不同的缺陷类型,如裂纹和划痕)。BTAD数据集包含来自

结论

在这项研究中,我们提出了用于工业环境中无监督异常检测和定位的频率分离联合决策归一化流(Frequency Separation Joint Decision Normalizing Flow, FJ-Flow)。我们的方法通过结合频率分离、归一化流(Normaling Flow, NF)和特征融合注意力(Feature Fusion Attention, FFA)机制,解决了频率偏差导致的频率域学习不均衡问题。这些组件协同工作,实现了高频和

未引用参考文献

[52], [53], [54]

CRediT作者贡献声明

Xingzhao Hua:撰写 – 审稿与编辑、撰写 – 原始草稿、可视化、验证、软件、方法论、调查、形式分析、数据整理、概念化。Yueming Hu:撰写 – 原始草稿、验证、资源、方法论、形式分析。Zhenting Yan:验证、监督、调查、资金获取、概念化。Jun Han:撰写 – 审稿与编辑、监督、项目管理、资金获取。HuiLing Huang:可视化

利益冲突声明

作者声明他们没有已知的竞争财务利益或个人关系可能影响本文报告的工作。

致谢

本文得到了福建省科学技术计划(Grant No.2022T3068, 2023T3068, 2023T3090, 2023T3035和2023T3092)的支持。
Xingzhao Hua出生于1999年,中国福建省。他于2021年在福建省福州市福建师范大学数学与信息学院获得工程学士学位。他目前正在福建省福州市福建农林大学机械与电气工程学院攻读硕士学位。他的研究兴趣包括计算机视觉、异常检测和无监督学习。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号