用于不平衡实例数据的代理辅助分解多目标进化模糊聚类算法
《Engineering Applications of Artificial Intelligence》:Surrogate-assisted decomposition-based multi-objective evolutionary fuzzy clustering algorithm for imbalanced instance data
【字体:
大
中
小
】
时间:2026年09月26日
来源:Engineering Applications of Artificial Intelligence 9.0
编辑推荐:
•代理辅助的基于分解的多目标模糊聚类算法。
•针对实例数据中大小和密度不平衡的三个聚类目标函数。
•构建基于帕累托集学习的代理辅助进化框架。
•设计基于局部密度和距离的最优解选择度量。
引言
聚类作为一种无监督学习方法,在挖掘实例数据的潜在结构方面显示出潜力(Rana, 2
•代理辅助的基于分解的多目标模糊聚类算法。
•针对实例数据中大小和密度不平衡的三个聚类目标函数。
•构建基于帕累托集学习的代理辅助进化框架。
•设计基于局部密度和距离的最优解选择度量。
引言
聚类作为一种无监督学习方法,在挖掘实例数据的潜在结构方面显示出潜力(Rana, 2025; Xu et al., 2025; Zhang et al., 2022)。聚类任务涉及将给定的实例数据集划分为若干子集,即聚类,以最大化簇内对象的相似度并最小化不同簇之间对象的相似度。不平衡实例数据是指某些类别中包含的实例数量远少于其他类别的数据集(Zhang et al., 2025; Liu et al., 2024)。此类数据集广泛存在于疾病诊断(Ahsan and Siddique, 2022)、目标检测与识别(An et al., 2025)、欺诈检测(Singh et al., 2022)以及市场研究(Werner de Vargas et al., 2023, Wu et al., 2024)等领域。传统的聚类方法在处理不平衡实例数据时往往面临挑战。具体来说,模糊 C 均值(FCM)算法(Bezdek et al., 1984)在处理不平衡实例数据时倾向于使各类中的实例数量均衡,从而导致“均匀化效应”(Askari, 2021; Liang et al., 2012)。当数据集的不平衡比例极高时,少数类实例可能会被错误地分配给多数类,在某些情况下,所有少数类实例都可能被分配给多数类。这种现象被称为“虹吸效应”。
为了解决上述在不平衡实例数据聚类中存在的问题,簇大小不敏感模糊 C 均值(CSI-FCM)算法(Noordam et al., 2002)在聚类过程中计算每个类别的大小比率,并为多数类实例分配较小的条件值,以减少多数类对少数类的影响。大小不敏感完整性基于模糊 C 均值(SIIB-FCM)算法(Lin et al., 2014)通过结合类内紧凑性和纯度来确定实例数据点与各类别的归属,并对相邻聚类之间的距离赋予更大的容忍度,从而在处理不平衡实例数据集时表现出优越的性能。Liu 等人(2016)提出了一种具有聚类体积约束的改进模糊 C 均值(IFCM)算法,该算法通过体积间接估计类别大小,并相应地重新加权 FCM 代价函数,从而规范化类别不平衡并提高在不平衡实例数据上的聚类性能。上述算法在一定程度上缓解了“均匀化效应”(Pu et al., 2024)。Pu 等人(2024)提出了一种基于边缘修改的不平衡模糊 C 均值聚类算法,以缓解 IFCM 算法的“虹吸效应”。该算法通过动态调整样本权重来增强边缘样本对模型的影响,从而表现出更强的类间可分离性。同时,提出了可能度模糊 C 均值(PFCM)算法(Pal et al., 2005),与 FCM 算法相比表现出更好的去噪性能。基于阴影集和局部信息的抑制可能度模糊 C 均值聚类(SL-PFCM)算法(Yu et al., 2024)将阴影集理论引入 PFCM,通过不确定性平衡方法自适应地将每个类别划分为核心、阴影和排除区域。为了进一步减少类别不平衡的影响,SL-PFCM 还设计了一种方法来重置核心和阴影区域中错位聚类中心。然而,尽管取得了更好的聚类结果,大多数针对不平衡实例数据的传统聚类算法仍依赖于单一的聚类准则函数,难以从多个角度全面衡量聚类性能。此外,上述改进的聚类算法仍然对初始聚类中心敏感,并且倾向于陷入局部最优。
进化多目标优化算法常用于解决各种领域中具有多个冲突目标的问题(Shao et al., 2025; Yang et al., 2025)。近年来,大量研究将多目标进化算法(MOEAs)应用于聚类任务,从而推动了多目标聚类算法(MOCAs)的发展。MOCAs 既可以通过同时优化多个聚类准则函数从多个方面衡量聚类性能,又对初始聚类中心不那么敏感,且不易陷入局部最优。Qu 等人(2021)通过将基因重排技术整合到非支配排序遗传算法 II(NSGA-II)(Deb et al., 2002)中,提出了 NSGAII-GR 并将其应用于聚类。NSGAII-GR 通过同时优化两个互补的内部聚类有效性指标:广义样本方差和 Calinski–Harabasz 指数,来细化分区结构。Morimoto 等人(2024)提出了基于数据属性的自适应进化多目标聚类方法,该方法考虑了一种新的度量来评估由最小生成树聚类生成的基础分区。Azevedo 等人(2025)将聚类方法与 NSGA-II 整合以解决聚类问题,探索了六个类内和七个类间度量,并将它们配对组合以识别最适合双目标方法的最佳组合。尽管现有的 MOCAs 可以通过构建互补的目标函数来放大类间差异并增强类内紧凑性,从而在一定程度上克服类别不平衡问题,但它们仍然缺乏专门针对不平衡实例数据聚类的改进。
此外,大多数 MOEAs 在实际应用中的通常需要对大量的实际目标函数进行评估,这导致了效率低下。为了减少计算成本,一些研究人员提出了代理辅助多目标进化算法(SAEAs),这些算法使用代理模型的预测来替代昂贵目标函数的实际评估,从而显著提高算法的计算效率。Li 等人(2022)提出了一种基于帕累托前沿模型的局部搜索方法,以增强帕累托前沿的探索和开发,加速搜索进度,并利用代理模型的最优值来促进极值点的寻找进程。自组织代理辅助非支配排序差分进化(SSDE)算法(Araújo et al., 2024)使用基于自组织映射的代理模型来逼近适应度函数,这具有减少计算成本并增强收敛速度的优势。认识到代理模型的计算效率,最近的进展已将它们纳入 MOCAs,以减少实际应用的计算成本。数据与知识驱动的双代理辅助多目标粗糙模糊聚类算法(Zhao et al., 2024)采用径向基函数作为主要代理模型来预测目标函数,并采用克里金模型作为辅助代理来提供预测的不确定性信息。在知识引导的分类与回归代理协同辅助多目标软子空间聚类(KCRS-MOSSC)算法(Zhao et al., 2025)中,采用径向基函数(RBF)模型作为回归代理,通过预测后代的目标函数值来辅助填充准则。
考虑到 MOCAs 的优势,为了增强其在不平衡实例数据集上的适用性并解决高计算成本的问题,我们提出了一种代理辅助的基于分解的多目标进化模糊聚类(SA-MOEA/D-FC)算法。本研究的主要贡献如下:
1) 容量大小不平衡的实例数据通常也具有密度不平衡。为了解决这些特征,本文提出了一种适用于不平衡实例数据聚类的新异度度量指标,并设计了三个考虑大小和密度不平衡的互补目标函数。这些目标包括一个包含聚类体积因子的改进模糊紧凑性函数,一个旨在放大类间密度差异的增强可分离性函数,以及一个基于模糊分区的聚类纯度函数,用于评估聚类的完整性。
2) 为了高效优化上述构建的聚类目标函数,本文设计了一个基于帕累托集学习的代理辅助分解进化框架。它采用两阶段子种群更新策略进行独立探索,并采用邻居解更新策略以增强子问题之间的合作,同时保持种群多样性。
3) 为了从多目标优化得到的非支配解集中选择最优解,设计了一种基于局部密度和距离的最优解选择度量,然后将其应用于对实例数据进行最终聚类。
与现有的针对不平衡实例数据的单目标聚类算法(例如 CSI-FCM 和 SIIB-FCM)不同,所提出的方法设计了多个互补的聚类目标函数,从不同角度表征数据的不平衡特性,而不是依赖于单一的聚类准则。与现有的 MOCAs(例如 NSGAII-GR)主要解决通用聚类问题不同,所提出的方法是专门为不平衡实例聚类设计的。此外,与 KCRS-MOSSC 等代理辅助 MOCAs 相比,所提出的方法进一步改进了优化框架,以实现更高效的进化搜索不平衡聚类任务。
本文其余部分组织如下。第 2 节简要介绍 SA-MOEA/D-FC 的相关知识。第 3 节详细描述所提出的 SA-MOEA/D-FC 方法。在第 4 节中,首先在 DTLZ 基准上验证进化框架 PSL-SADEF 的有效性,然后在合成不平衡实例数据集和 UCI 不平衡实例数据集上验证 SA-MOEA/D-FC 的聚类性能。最后,第 5 节给出了结论性评述。
章节摘要
模糊 C 均值算法
模糊 C 均值(FCM)算法由 Bezdek 等人(1984)提出。FCM 算法通过迭代最小化以下目标函数,将一组 n 个数据实例划分为 C 个聚类:
J_FCM = ∑_{i=1}^n ∑_{j=1}^C u_{ij}^m ||x_i - v_j||^2
其中 x_i 表示第 i 个实例数据,v_j 表示第 j 个聚类中心,u_{ij} ∈ [0, 1] 是 x_i 到第 j 个聚类的隶属度值,m 是模糊平滑参数,||·|| 表示欧几里得范数。在约束条件 ∑_{j=1}^C u_{ij} = 1,?i=1, 2, ?, n 下,更新...
染色体编码与种群初始化
进化中的染色体由代表聚类中心的实数组成。如果实例数据是 d 维的,聚类数量为 C,则染色体的编码长度为 C×d。在初始化阶段,初始种群中每个染色体的聚类中心使用拉丁超立方采样(LHS)策略随机生成(McKay et al., 2000)。
含类不平衡因子的模糊聚类目标函数构建
在本节中,构建了三个互补的模糊聚类目标函数,通过...
实验设置
为了彻底验证 SA-MOEA/D-FC 的有效性,进行了两组实验。首先,通过对其关键组件的消融研究和与几种最先进的 SAEAs 的比较,评估所提出的进化框架 PSL-SADEF 的有效性。其次,在不平衡实例数据集上评估聚类算法 SA-MOEA/D-FC 的性能,以验证其有效处理不平衡实例数据的能力。
PSL-SADEF 的性能验证
为了验证...的有效性
结论与评述
为了提高在不平衡实例数据上的聚类准确性,本文提出了一种代理辅助的分解多目标进化模糊聚类算法(SA-MOEA/D-FC)。设计了三个互补的目标函数来解决实例数据中大小和密度不平衡的问题:基于聚类体积因子的改进模糊紧凑性函数,基于聚类间离散化差异的模糊可分离性函数,以及基于模糊分区的聚类纯度函数...
CRediT 作者贡献声明
Feng Zhao: 撰写 – 初稿,软件,方法论,资金获取,形式分析,概念化。Xinyi Ning: 撰写 – 初稿,可视化,软件,方法论,数据整理,概念化。Xiaotong Bian: 撰写 – 审阅与编辑,可视化,软件,方法论,数据整理,概念化。Hanqiang Liu: 可视化,软件,方法论,数据整理,概念化。Yikai Hu: 撰写 – 审阅与编辑,可视化,软件,数据...
利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系,这些关系可能被视为影响本文报告的工作。
致谢
本工作得到国家自然科学基金(批准号:62071379 和 62106196)和陕西省高校青年创新团队的资助。
Feng Zhao|Xinyi Ning|Xiaotong Bian|Hanqiang Liu|Yikai Hu
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号