UniNet++:基于局部-全局特征融合与门控特征选择的统一异常检测框架

《Signal Processing: Image Communication》:UniNet++: A unified anomaly detection framework via Local-Global Feature Fusion and Gated Feature Selection

【字体: 大 中 小 】 时间:2026年09月30日 来源:Signal Processing: Image Communication 3.4

编辑推荐:

   •我们提出了一种适用于有监督和无监督设置的新型异常检测模型。该模型在跨领域异常检测任务中表现出强大的性能,并具有轻量级设计。•我们引入了局部-全局特征融合模块,该模块结合了多尺度深度可分离卷积进行局部特征提取与多头自注意力进行全局特征提取。这为模型提供了更丰富、更全面的特征表

  
  • •
    我们提出了一种适用于有监督和无监督设置的新型异常检测模型。该模型在跨领域异常检测任务中表现出强大的性能,并具有轻量级设计。
  • •
    我们引入了局部-全局特征融合模块,该模块结合了多尺度深度可分离卷积进行局部特征提取与多头自注意力进行全局特征提取。这为模型提供了更丰富、更全面的特征表示。
  • •
    我们提出了门控特征选择模块。GFS能够动态适应目标领域并执行有效的特征选择,在保持精度的同时,有效降低了与UniNet相比的计算成本。

引言

异常检测作为计算机视觉中的关键任务,在医学诊断[1]、[2]、[3]和工业缺陷检测[4]、[5]、[6]、[7]等领域具有重要的实用价值。传统方法通常为每个检测任务设计单独的模型,依赖于大量标记的正常和异常样本进行监督学习。然而,由于异常样本的稀缺性和多样性,在实际应用中收集足够的异常数据往往面临挑战,导致模型泛化性能受限。
为了解决这一问题,无监督或自监督异常检测方法引起了越来越多的研究关注。无监督方法通常仅使用正常样本训练模型。近期的主流方法通常采用在大规模数据集(例如ImageNet [8])上预训练的网络作为特征编码器来提取判别性表示。通过特征重建[9]、[10]、[11]或特征蒸馏[12]、[13],这些方法试图重建预训练编码器生成的特征。其基本原理在于,由于训练过程中未引入异常特征,模型在推理时只能重建对应正常区域的特征,而无法处理异常区域。因此,通过将重建特征与预训练编码器的特征进行比较,即可实现异常定位。值得注意的是,为防止模式坍塌,预训练编码器在训练过程中通常保持冻结状态。然而,这也阻止了编码器更新参数以适应未见的目标领域,从而在跨领域异常检测任务中导致严重的性能退化。
ReContrast [14]通过将对比学习引入特征重建框架来解决跨领域的泛化退化问题。具体而言,它采用双编码器结构生成同一输入图像的两个不同视角,并应用停止梯度机制以防止对比学习过程中正样本坍塌。尽管有效,但ReContrast难以捕获与目标领域紧密对齐的代表性特征,且在有监督学习设置下性能下降。
在此基础上,UniNet [15]引入了多尺度特征嵌入和特征选择机制,这提高了无监督场景下的检测能力,同时也保持了对有监督学习任务的兼容性。在许多复杂的异常检测场景中,例如识别医学图像中的大面积病变,捕获长距离语义依赖对于区分异常模式与正常背景至关重要。然而,UniNet仍然存在两个主要局限性:(1) 其多尺度卷积融合机制主要关注局部邻域特征,无法捕获空间位置间的长距离语义依赖;(2) 教师-学生特征差异的直接比较和拼接使得难以分离冗余噪声和弱判别性信息,导致训练和推理过程中计算开销增加。
本文提出了一种基于ReContrast和UniNet的新型模型。我们的架构由一个改进的教师-学生网络和一个瓶颈模块组成。在瓶颈模块中,我们引入了局部-全局特征融合模块(LGFF),受[16]、[17]、[18]、[19]启发,利用多尺度深度可分离卷积提取局部特征,并采用多头自注意力机制捕获全局特征。然后将这些局部和全局表示整合,以获得更全面、信息更丰富的特征。此外,对于特征选择,我们用基于D-Gating [20]的门控特征选择模块(GFS)替代了直接计算教师-学生特征差异的方式。该模块允许模型动态学习应优先选择哪些特征,有效演变为能够抑制冗余噪声的领域自适应特征选择器。与UniNet的方法相比,我们的方法在保持高检测精度的同时显著降低了计算成本。总之,本文的主要贡献如下:
  • 1.
    我们提出了一种适用于有监督和无监督设置的新型异常检测模型。该模型在跨领域异常检测任务中表现出强大的性能,并具有轻量级设计。
  • 2.
    我们引入了局部-全局特征融合模块,该模块结合了多尺度深度可分离卷积进行局部特征提取与多头自注意力进行全局特征提取。这为模型提供了更丰富、更全面的特征表示。
  • 3.
    我们提出了门控特征选择模块。GFS能够动态适应目标领域并执行有效的特征选择,在保持精度的同时,有效降低了与UniNet相比的计算成本。

章节摘要

特征融合

特征融合是增强模型表达能力的关键手段,尤其在异常检测任务中,有效地结合局部细节与全局上下文信息至关重要。早期研究主要关注多尺度特征融合。FPN [21]通过自顶向下的路径和横向连接有效地融合了高层语义与低层细节,显著提升了物体检测等任务的性能。随后,HRNet [22]保持了

概述

受UniNet启发,我们提出了UniNet++,一种适用于多种领域的统一且通用的异常检测框架,如图2所示。UniNet++旨在实现领域相关特征的有选择学习,同时使整个框架适应目标领域,并具有高效的异常判别能力。
该框架由三个关键组件组成。首先,为准确捕获特征之间的上下文依赖关系,我们引入了一种轻量级且高效的

实验设置

数据集。为了全面评估所提方法的泛化能力,我们在跨越两个领域的十个公共数据集上进行了实验:工业缺陷检测和医学图像分析。对于工业异常检测,我们采用了三个无监督基准(MVTecAD [36]、BTAD [37]和MVTecAD-3D [38])以及一个最近发布的有监督基准VAD [39]。对于医学图像分析,我们采用了三个无监督数据集(APTOS [40]、OCT2017 [41]和ISIC2018

结论

本文提出了UniNet++,一种适用于多种领域的统一且通用的异常检测框架。UniNet由教师-学生模型和瓶颈模块组成。UniNet++的关键创新在于两个方面:局部-全局特征融合和门控特征选择。这些组件共同增强了UniNet++有效选择和-learning领域相关特征信息、区分异常与正常状态以及实现鲁棒异常检测的能力。

CRediT作者贡献声明

王桂花:写作——审阅与编辑,监督,形式分析,概念化。王志庚:写作——初稿撰写,可视化,软件,方法学,调查,数据管理。

资金支持

本研究未收到公共、商业或非营利部门资助机构的任何专项资助。

利益冲突声明

作者声明,他们没有已知可能影响本论文所报告工作的竞争性经济利益或个人关系。
王桂花|王志庚
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号