面向异常检测的伪标签引导核化模糊逼近模型

《Fuzzy Sets and Systems》:Pseudo-Label Guided Kernelized Fuzzy Approximation Model For Anomaly Detection

【字体: 大 中 小 】 时间:2026年10月22日 来源:Fuzzy Sets and Systems 3.1

编辑推荐:

   **摘要** 随着数字时代的发展,各个领域对异常检测的需求日益迫切。基于核化的模糊粗糙集异常检测方法在处理具有模糊不确定性的非线性数据方面显示出显著优势。然而,在没有任何可用真实标签的情况下,现有方法难以充分探索具有复杂结构数据的分布特征,例如类别不平衡以及正常数据与异常数

  

**摘要**

随着数字时代的发展,各个领域对异常检测的需求日益迫切。基于核化的模糊粗糙集异常检测方法在处理具有模糊不确定性的非线性数据方面显示出显著优势。然而,在没有任何可用真实标签的情况下,现有方法难以充分探索具有复杂结构数据的分布特征,例如类别不平衡以及正常数据与异常数据之间的模糊边界。伪标签可以利用标签的引导作用提供隐式监督信息,并为模型学习提供监督依据。基于此,我们提出了一种伪标签引导的核化模糊逼近异常检测模型(PLKFAD)。在PLKFAD中,我们首先提出了一种新颖的伪标签引导的核化模糊逼近模型。首先,该模型利用伪标签的先验信息,通过对混合数据集的核化模糊相似度度量来捕获底层数据分布结构。该过程基于样本亲和力生成类内相似度和类间相似度。随后,将这些核化模糊相似关系进行融合,以增强模型捕获复杂数据关系的能力,从而获得更精确的样本相似度。最后,融合后的相似度矩阵作为随机游走的马尔可夫转移矩阵。通过利用正常样本与异常样本之间的游走概率显著差异来有效识别异常。在多个公开数据集上进行的综合实验验证了所提方法的有效性和优越性。结果表明,我们的方法显著优于现有的主流异常检测算法,表现出更优的适应性和鲁棒性。

**引言**

异常检测,也称为离群点检测,是一项关键的数据挖掘任务,旨在识别与大多数数据显著偏离且不符合预期模式的点、事件或观测值[1]。这些不符合的实例被称为异常或离群点。在数据驱动决策的时代,异常往往代表着关键且可操作的信息,例如欺诈性金融交易[2]、交通流量中的异常轨迹[3]、生产线上的缺陷产品,或疾病的早期征兆[4]、[5]。鉴于应用领域的广泛和多样性,开发稳健高效的异常检测技术已成为现代数据科学的基石。

在现实场景中,一个主要挑战是标注数据的稀缺。手动标注数据往往成本高昂、耗时且需要领域专业知识。因此,无监督异常检测已成为最普遍且实用的范式。无监督方法基于异常是稀有且与正常数据实例不同的假设,使其能够在没有任何先验知识或标注样本的情况下检测异常。主流无监督异常检测算法主要包括基于统计的方法[6]、[7],基于距离的方法[8]、[9],基于密度的方法[10],基于表示学习的方法[11]、[12]以及基于粗糙集的方法[13]、[14]、[15]、[16]。特别是,基于粗糙集的方法提供了一种处理不确定性的独特数学框架。这些方法的核心原则是利用各种不确定性度量来有效量化样本的异常程度。

粗糙集是粒计算(GrC)的基石,提供了一个强大的数学框架来管理数据中的不确定性,并已成功应用于众多领域[13]、[14]、[17]、[18]。然而,经典模型是基于等价关系定义的,使其无法有效处理数值或混合属性数据。模糊集理论最早由Zadeh提出。Lu等人[19]指出,模糊集理论已被广泛应用于机器学习,涵盖经典机器学习、迁移学习、推荐系统等领域。模糊技术也被广泛应用于社会经济领域,例如贫困与不平等分析[20]、多维水贫困评估[21]和通胀脆弱性测量[22]。这些研究共同表明,模糊集理论在处理不确定性和高维数据方面具有广泛的适用性。为了克服经典粗糙集模型的局限性,学者们将粗糙集理论与模糊集及相关范式相结合,提出了几种扩展的粗糙集模型。这些重要的扩展包括利用基于距离的邻域处理数值数据的邻域粗糙集(NRS)、集成模糊集理论管理连续属性的模糊粗糙集(FRS),以及模糊邻域粗糙集(FNRS)等混合模型。这些先进模型催生了许多有效的异常检测算法,在各种应用中取得了相当大的成功。

尽管取得了这些成功,但许多方法仍存在一个重大局限性:它们往往无法捕获复杂数据集中固有的非线性关系。大多数模型依赖于在传统特征空间中计算的常规距离度量(如欧氏距离)。这隐含地假设了底层数据结构是线性可分的,而这一假设在正常数据与异常数据之间边界复杂且交织的真实场景中很少成立。为了解决这一挑战,集成核函数提供了一个强有力的解决方案。核技巧能够将数据隐式映射到更高维的特征空间,使复杂的非线性关系可以转化为更简单的、通常是线性可分的关系[23]。这一原则自然地促成了核化模糊粗糙集(KFRS)的发展。通过使用核函数替换标准相似度度量,KFRS可以在此高维空间中评估样本亲和力[24]。事实上,多项研究已成功将此类基于核的模糊粗糙集框架应用于异常检测,展示了识别嵌入在复杂数据结构中的异常的能力[25]、[26]。例如,Wu等人的开创性工作[25]首次将KFRS框架扩展到无监督异常检测领域,提出使用核化模糊逼近精度作为度量来量化样本的异常程度。在此基础上,Li等人[26]融入了粒球计算原理,提出了多粒度核化模糊粗糙集(MKFRS)。他们的方法采用了一种新颖的多粒度核化模糊逼近精度来度量样本异常,旨在捕获不同粒度层面的数据结构。

尽管这些方法通过有效捕获非线性数据关系取得了令人鼓舞的结果,但其性能从根本上受到一个关键问题的制约:完全缺乏标签信息来引导检测过程。在纯无监督方式下运行,其不确定性度量仅源自数据固有分布。在典型的异常检测场景中,这种分布高度不平衡,正常样本的密集集中可以淹没异常的稀疏信号。这使得建立稳健的决策边界变得困难,导致较高的假阳性或假阴性率。为了解决这一挑战,引入伪标签提供了一个令人信服的策略来弥合无监督学习和监督学习之间的差距。伪标签是一种半监督技术,通过初始模型的预测或简单的聚类假设生成高置信度但可能不完美的标签[27]、[28]。这一过程将一种自生成的监督信息引入学习过程。通过利用这种先验信息,即使它带有噪声,模型也能获得对底层类别结构更细致的理解。

基于上述讨论,为了克服传统核相似度在处理类别不平衡和边界模糊数据时判别准确性的不足,我们提出了一种伪标签引导的核化模糊逼近异常检测模型(PLKFAD)。我们提出模型的核心是将源自伪标签的监督信息注入KFRS框架。具体而言,我们利用伪标签定义不同的类内相似度和类间相似度。这些相似度度量随后被策略性地融合以构建更精确的样本相似度度量。最后,该融合相似度矩阵被用作随机游走的马尔可夫转移矩阵。通过利用正常样本与异常样本之间的游走概率显著差异来有效识别异常,由于伪标签的引导,这些差异变得更加显著。总之,本工作的主要贡献包括:

1. 我们提出了一种新颖的伪标签引导的核化模糊逼近模型,创新地将伪标签的隐式监督信息融入传统KFRS模型,以增强模型区分正常样本和异常样本的能力。
2. 我们开发了一种融合两个特殊设计组成部分——类内相似度和类间相似度——的精炼相似度度量。基于源自模糊上逼近和下逼近理论的样本亲和力设计的该度量可以有效地表征正常样本和异常样本之间的分布差异。
3. 为了改善样本相似度测量的稳定性和准确性,我们设计了全局核相似度与类内相似度和类间相似度的协同融合,其中三个组成部分相互补充,共同增强数据关系表征。
4. 我们进一步将上述伪标签引导的核化模糊逼近模型形式化为一种专门的异常检测方法,称为PLKFAD。为了验证所提方法的性能,我们在24个数据集上进行了大量实验,实验结果有效地证实了PLKFAD在异常检测任务中的有效性。

本文其余部分组织如下:第2节回顾了基于粗糙集的异常检测方法的相关文献以及随机游走的相关研究。第3节回顾了KFRS模型的基本概念。第5节提出了我们新颖的无监督异常检测方法,称为PLKFAD。第6节通过综合实验和比较分析验证了PLKFAD的有效性。最后,第7节总结工作并讨论未来工作。

**相关工作**

本节回顾基于粗糙集的异常检测方法以及随机游走的相关研究。

**基础知识**

本节回顾了KFRS模型的基本概念,这些概念构成了所提方法的基础。

KFRS模型通过集成核函数增强了经典FRS框架,解决了其无法有效捕获样本间复杂非线性关系的缺陷。令$\mathbf{M}=[\mathbf{o}_1;\mathbf{o}_2;\cdots;\mathbf{o}_n]\in\mathbb{R}^{n\times m}$表示一个无标签信息的数据矩阵,包含n个样本和m个属性。每个样本$\mathbf{o}_i$表示为一个向量$\mathbf{o}_i=(o_1^i, o_2^i, \cdots, o_m^i)\in\mathbb{R}^m$,其中$o_j^i$表示第i个样本的第j个属性值。

**提出的模糊逼近模型**

本节首先定义混合核以有效处理混合属性数据。然后我们介绍基础的伪标签引导KFRS模型。最后,在这些组件的基础上,我们提出了伪标签引导的核化模糊相似度模型。

**提出的异常检测**

本节正式介绍我们新颖的无监督异常检测方法PLKFAD。该方法的框架如图1所示。

**实验**

本节进行了综合实验以验证所提PLKFAD方法的有效性。

**结论**

本文提出了一种新颖的伪标签引导无监督异常检测方法PLKFAD。为有效处理混合属性数据,PLKFAD集成了混合核来计算样本间的核化模糊相似度。通过利用伪标签提供的先验信息,我们构建了一个伪标签引导的核化模糊粗糙集框架。认识到仅凭全局核化模糊相似度不足以全面捕获样本关系。

**CRediT作者贡献声明**

杨云霞:撰写——初稿,方法论,形式分析,概念化。苏馨予:可视化,验证,软件,形式分析。冯山:撰写——审阅与编辑,监督,资源,项目管理。阮忠:撰写——审阅与编辑,可视化,资源,资金获取,数据管理。

**利益冲突声明**

作者声明,他们没有已知的竞争财务利益或个人关系,这些关系可能已影响本文所报告的工作。

杨云霞 | 苏馨予 | 冯山 | 阮忠
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号