面向在线异构特征选择的图统一自适应决策边界增强方法(GRADE)

《IEEE Transactions on Cybernetics》:Online Heterogeneous Feature Selection

【字体: 大 中 小 】 时间:2025年12月08日 来源:IEEE Transactions on Cybernetics 10.5

编辑推荐:

  本文针对高维异构特征数据流中特征关系复杂、动态演化带来的挑战,提出了一种名为GRADE的在线异构特征选择方法。该方法通过引入增量图统一度量(IGUM)统一异构特征关系表示,并结合自适应密度引导邻域关系(ADNR)动态捕捉决策边界,实现了高效、精准的特征子集筛选。实验表明GRADE在分类准确率和特征简洁性方面均优于现有方法,且无需预设参数,为动态数据环境下的特征分析提供了可靠解决方案。

  
随着大数据时代的到来,现实世界中收集的数据集往往具有高维异构的特性,既包含数值型特征(如年龄、收入),也包含类别型特征(如性别、居住地)。这些特征不仅维度极高,而且分布复杂且动态演化,给特征选择带来了巨大挑战。传统特征选择方法通常假设所有特征属于同一类型,难以有效处理异构特征共存的情况。更重要的是,现有方法多针对静态数据集设计,无法适应实时数据流环境,导致在捕捉异构特征间动态关系时表现不佳。
高维异构特征并存会引发"信息鸿沟"问题。如图1所示,数值型和类别型特征在语义概念和统计特性上存在本质差异,这种差异使得特征间关系的量化变得困难。若直接采用欧氏距离结合汉明距离的简单处理方式,会造成信息损失,进而影响特征子集对数据真实分布的刻画能力。尤其在在线学习场景下,特征按流式顺序持续到达,需要动态评估新特征与已选特征子集的协同作用,这对特征选择方法的适应性和效率提出了更高要求。
针对上述问题,发表在《IEEE Transactions on Cybernetics》的研究提出了一种名为GRADE(Graph-Unified Adaptive Decision Boundary Enhancement)的创新方法。该方法通过两个核心技术突破解决了在线异构特征选择(OHFS)的瓶颈:一是提出增量图统一度量(IGUM),利用图结构统一特征值层面和特征间层面的关系,减少异构特征间的信息损失;二是设计自适应密度引导邻域关系(ADNR),通过动态捕捉显著邻域区域来精确描绘局部决策边界。实验证明,GRADE能够获得更简洁的特征子集,同时保持竞争力的分类准确率。
关键技术方法包括:1)构建基于条件概率分布和图结构的统一距离度量IGUM,将类别型特征值转换为连续空间中的语义表示;2)设计密度自适应的邻域关系ADNR,通过检测样本局部密度突变点动态确定邻域范围;3)建立在线特征评估机制,根据特征子集显著性变化动态增删特征。研究使用了12个来自医学、生物学、化学等领域的真实数据集(如心肌梗死数据集、帕金森病数据集等)进行验证,采用支持向量机(SVM)和K近邻(KNN)分类器评估性能。
核心方法设计
GRADE方法的核心在于IGUM度量与ADNR邻域关系的协同作用。IGUM通过地球移动距离(EMD)量化类别型特征值之间的条件概率分布差异,并结合互信息加权,使数值型和类别型特征在统一空间中获得可比性。ADNR则突破固定参数邻域的限制,通过监测样本间距离排序后的密度变化(μi,j= (j+1)/D(xi, x〈i,j〉; F′))自动识别邻域边界,实现对复杂分布结构的自适应捕捉。
实验验证结果
  1. 1.
    分类性能比较:在12个数据集上,GRADE在SVM和KNN分类器下的平均准确率分别达到0.7511和0.7294,排名均居首位。尤其在类别型特征为主的数据集(如HIVA、Leukemia)上优势显著,证明IGUM有效克服了类别型特征量化难题。
  2. 2.
    特征简洁性:GRADE所选特征子集平均数量仅为8.09个,远低于MRMS(89.76个)等方法,说明其冗余过滤能力更强。
  3. 3.
    漂移适应性:通过模拟分布漂移实验发现,GRADE能快速替换旧特征,新特征比例随漂移程度增加而上升,验证了ADNR对动态环境的适应能力。
  4. 4.
    效率分析:在特征数d增至10000、样本数n增至10000的大规模测试中,GRADE运行时间呈近线性增长,显著优于传统邻域方法。
消融与鲁棒性分析
消融实验显示,在异构特征数据集(如心律失常数据集)上,同时移除IGUM和ADNR会导致准确率下降约5%,证明二者协同作用的重要性。噪声鲁棒性测试中,GRADE在噪声注入后仍保持超过90%的基准准确率,优于对比方法。案例研究进一步表明,GRADE在CLHLS老年健康数据集中选出的"老年居住省份""先验权重"等特征与长寿预测高度相关,获得医学专家认可。
GRADE方法的重要意义在于首次实现了对在线异构特征流的统一处理与动态决策边界捕捉。其参数无关特性降低了应用门槛,而增量计算架构确保了处理大规模数据流的效率。该方法为医疗诊断、金融风控等领域的实时特征分析提供了新思路,未来可扩展至时序数据、图结构数据等更复杂场景。通过弥合异构特征间的信息鸿沟,GRADE为高维动态数据挖掘提供了更为可靠的特征选择工具。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号