基于多尺度距离邻域细化的在线流媒体规模与特征选择
《Neurocomputing》:Online streaming scale and feature selection with multi-scale -distance neighborhood granulation
【字体:
大
中
小
】
时间:2026年06月27日
来源:Neurocomputing 6.7
编辑推荐:
刘浩杰|周楠|廖书桥|丁伟平|吴伟志中国漳州363000,闽南师范大学数学与统计学院摘要在数字时代,实际应用中的数据流数量呈爆炸性增长,且具有高维特性和实时演化特征。此外,多尺度数据因其丰富的知识表达能力而备受关注。在线流式特征选择方法因其在动态数据环境中的高效特征选择性能而广受
刘浩杰|周楠|廖书桥|丁伟平|吴伟志中国漳州363000,闽南师范大学数学与统计学院摘要在数字时代,实际应用中的数据流数量呈爆炸性增长,且具有高维特性和实时演化特征。此外,多尺度数据因其丰富的知识表达能力而备受关注。在线流式特征选择方法因其在动态数据环境中的高效特征选择性能而广受重视。然而,现有的在线流式特征选择方法主要针对单尺度数据,难以处理随时间出现的多尺度数据流。为解决这些问题,本文聚焦于两种流式尺度状态,分别提出了基于多尺度-距离邻域粒化的两种新型在线流式尺度和特征选择方法。首先,基于最近邻思想提出了一种新的多尺度-距离邻域粒化方法,并构建了相应的多尺度-距离邻域粗糙集模型。其次,考虑到现实世界中不同流式尺度场景下多尺度数据的差异,明确了两种流式尺度状态,并基于多尺度-距离邻域粗糙集模型建立了流式尺度选择模型。在此基础上设计了两种在线流式尺度选择算法。随后,提出了基于最优尺度组合的前向特征选择算法以去除冗余特征。进一步整合这些理论和算法后,开发出了两种在线流式尺度和特征选择算法。实验结果表明,所提出的方法能够有效处理多尺度数据流,且与另外七种先进方法相比,性能显著更优。引言随着信息技术的快速发展,现实应用场景中的数据形式日益复杂多样。这类数据不仅具有高维特性,还表现出显著的动态演化特征。特征选择作为一种有效的数据处理方法,通过选择高度相关的特征并剔除冗余特征,从而优化模型的存储空间、计算效率以及泛化性能。该方法已被广泛应用于模式识别和数据挖掘等领域[1]、[2]、[3]、[4]。传统的特征选择方法大多用于处理静态数据[5]、[6]、[7]、[8]、[9],因为在模型训练之前,数据集中的大部分信息已经是已知的。作为新兴的数据类型,动态数据在机器学习和数据挖掘领域引起了广泛关注。流式数据是动态数据的一种重要形式。从更新状态的角度来看,流式数据可分为实例流和特征流。实例流的特点是样本数量随时间动态增加,而特征流则表现为随着场景变化特征维度会动态扩展。正因如此,近年来在线流式特征选择方法因其能在动态数据环境中的适应性而被广泛应用。粗糙集理论已被广泛应用于数据分析和知识发现领域。虽然经典粗糙集结构严谨,但它受名义数据表示框架的限制,难以处理数值数据。为此,研究人员提出了邻域粗糙集模型,该模型通过邻域关系实现了对名义数据和数值数据的统一描述,并被广泛引入特征选择任务中[10]。例如,徐等人[11]结合关联熵度量,提出了一个融合三种不同视角的动态邻域粗糙集框架。王等人[12]提出了一种基于加权最近邻粗糙集的特征选择方法,用以解决噪声敏感性和数据不平衡问题。夏等人[13]通过引入粒状球计算理论,开发了一种无需参数、基于粒状球的邻域粗糙集框架,从而减少了对预定义信息的依赖。为了体现特征间的协同效应,陈等人[14]提出了一种利用软邻域粗糙集的新型特征选择方法。在现实应用中,同一个特征可能会在不同尺度上被评估。例如,同一部电影在不同平台上的评价可能表现为不同的形式:数值评分(0-10分)、星级评分(0-5星)、文本评论或其他语义数据。通常情况下,尺度越粗,对应的粒度就越大。这类数据被称为多尺度数据。在这方面,吴和梁[15]首次从知识发现的角度提出了多尺度决策系统。近年来,许多关于多尺度知识发现的研究主要集中在尺度和特征选择方面[16]、[17]、[18]、[19]、[20]。桑等人[21]提出了变量一致性原则以及一种用于多尺度特征选择的前向算法。张等人[22]运用人工神经网络和粒状球计算技术,提出了一种适用于多尺度异构数据的特征选择算法。王等人[23]提出了两种新的最优尺度组合概念,以及相应的通用多尺度混合数据最优尺度搜索算法。上述研究从不同角度探讨了多尺度数据中最优尺度和特征选择的问题,但大多集中在静态数据环境中。近年来,一些研究人员开始针对这一现象研究动态多尺度数据[24]、[25]、[26]、[27]。为了解决动态多尺度决策系统中对象顺序更新时的最优尺度选择问题,郝等人[28]通过构建顺序三叉决策框架,提出了一种最优尺度选择与更新算法。为了解决动态多尺度区间值数据集中的特征选择问题,冯和张[29]开发了一种基于正则化向量的监督式增量特征选择方法。通过为样本或特征引入动态增长机制,这些方法能够在训练过程中有效选择最优尺度,从而大大拓展了传统多尺度知识发现的理论和应用框架。然而,上述大多数研究都假设整个尺度空间是已知的。而流式尺度指的是特征尺度随时间逐渐出现,同时实例和特征的数量保持不变。因此,有必要进一步研究流式尺度场景下动态多尺度数据的最优尺度和特征选择问题。作为处理动态数据的关键方法,在线流式特征选择在学术界受到了广泛关注[30]、[31]、[32]。周等人[33]利用粗糙集理论建立了流式特征选择的框架。李等人[34]通过结合最近邻和间隙邻居算法,开发了一种算法,用以解决在线流式特征选择中参数敏感性和数据分布不均的问题。为了解决动态特征流中特征类型未知的问题,[35]提出了一种用于异构特征流的非参数在线流式特征选择框架,该框架采用了最大信息系数矩阵。为了解决现有在线流式特征选择算法往往忽略敏感特征从而导致预测偏差的问题,段等人[36]开发了一种算法,通过识别类别变量与敏感变量之间的相关性,确保整个过程的公平性。为了解决动态特征空间中的层次分类问题,舒等人[37]开发了一种基于动态调整的邻域粗糙集框架的在线流式特征选择方法。张等人[38]提出了一种名为模糊吉尼熵的新指标,用于量化数据集中的特征不确定性,并通过评估在线相关性、双向互补性和冗余性来选择在线流式特征。这些研究表明,在线流式特征选择技术已成为处理动态数据并推动实时知识发现的重要工具,其价值已得到广泛认可。然而,目前的在线流式特征选择方法仍然主要以单尺度数据为主,难以适应流式多尺度数据。本文的研究动机源于三个方面:1)传统的流式特征选择无法有效处理具有多尺度特征的复杂数据;2)现有的多尺度研究大多局限于静态环境,难以应对尺度随时间动态变化的流式尺度场景;3)现有的多尺度粒化方法普遍存在参数设置过于复杂且过度依赖手动超参数的问题,难以满足流式环境中算法的实时需求。随着大数据时代的到来,信息系统的复杂性和多样性不断增加,实际应用中对处理动态多尺度数据的需求也越来越迫切。在遥感图像的动态监测、多分辨率传感器网络以及工业物联网的故障诊断等实际场景中,普遍存在流式多尺度数据。流式多尺度数据挖掘面临三个挑战:1)由于尺度是实时出现的,模型必须具备在线选择最优尺度组合的能力;2)尺度空间未知:在学习之前,我们无法知晓所有的尺度空间信息,也无法缓存所有的尺度;3)现有模型对邻域半径等核心参数极为敏感。为了解决这些问题,本文提出了两种适用于两种流式尺度场景下的新型在线流式尺度和特征选择方法,这两种方法均基于多尺度-距离邻域粒化技术。本文的理论框架如图1所示,由三个模块组成。图1中的模块1展示了基本的理论模型。具体而言,基于最近邻思想,提出了一种参数更少的新型多尺度-距离邻域粒化方法,随后构建了相应的多尺度-距离邻域粗糙集模型。此外,受现实世界中尺度流动模式的启发,我们明确了两种流式尺度状态:单一随机在线流式尺度(SROSS)和顺序在线流式尺度组合(SOSSC)。这类流式尺度场景在现实应用中十分常见[39]、[40]。一个典型的例子就是综合性电商平台的评价系统。这类平台会持续监控特定评价维度(如质量、物流、性价比等固定特征)下的固定产品集合(固定实例)。但由于评价数据流来自不同的子平台或渠道,用户反馈的粒度存在明显差异:有些子平台只提供“正面/负面”的二元反馈(粗尺度);有些则采用星级评分系统等多点评分方式(中等尺度);还有些则给出具体的数值评分(细尺度)。当面对以单一尺度随机出现或顺序组合出现形式的动态多尺度评价流时,这类综合平台必须能够自适应地、动态地在每个时间步选择最合适的尺度来进行评价整合。这一现实情况充分体现了所提出的在线流式尺度选择框架的实际必要性。据此,本文开发了一种流式尺度选择模型,用于处理这两种特定的流式尺度场景。图1中的模块2介绍了两种在线流式尺度选择方法。具体而言,对于这两种流式尺度状态,我们利用前述的流式尺度选择模型实时选择最优尺度组合。基于该模型,提出了两种名为OSS-SROSS和OSS-SOSCS的在线流式尺度选择算法。图1中的模块3描述了一种特征选择方法。基于得到的最优尺度组合,采用前向特征选择算法去除冗余特征。这三个核心模块之间紧密相连。模块1主要对数据进行多尺度-距离邻域粒化处理,并构建相应的多尺度评价指标。基于这些指标,模块2在两种流式尺度状态下实时选择最优尺度组合。在模块2得到的最优尺度组合基础上,模块3进一步在特征空间中去除冗余特征。最终,通过整合模块1、2和3,得到了两种在线流式尺度和特征选择算法,分别命名为OSSFS-SROSS和OSSFS-SOSSC。与现有的流式特征选择方法相比,本文提出的在线流式尺度和特征选择方法的核心优势在于突破了单尺度的限制,构建了一个支持多尺度分析及在线流式尺度选择的协作框架。传统的流式特征选择方法通常仅适用于单尺度数据场景,而本文提出的方法创新性地引入了多尺度-距离粒化机制,能够根据信息依赖性实时选择最优尺度组合。因此,在处理流式多尺度数据时,这些方法展现出更强的适应能力和实时响应性能。总体而言,我们的主要贡献包括:(1)为解决现有多尺度邻域粒度化方法参数复杂度高的问题,本文基于最近邻思想,提出了一种参数更少且邻域一致性更好的多尺度距离邻域粒度化方法,并据此构建了相应的多尺度距离邻域粗糙集。(2)针对现有在线流式特征选择方法在动态多尺度数据环境中的应用局限性,本文从现实世界的流式规模场景中提炼出两种流式规模状态SROSS和SOSSC,进而基于多尺度距离邻域粗糙集构建了流式规模选择模型。该模型能够适应两种流式规模场景下的流式多尺度数据,并实时选出最优的规模组合。(3)为弥补现有多尺度知识发现方法在流式数据环境中的不足,本文针对这两种流式规模状态分别提出了两种在线流式规模选择算法,同时还基于所得到的最优规模组合开发了一种正向特征选择算法。最终通过整合这些算法,得到了两种在线流式规模与特征选择算法,即OSSFS-SROSS和OSSFS-SOSSC。(4)在15个数据集上的实验结果表明,与四种先进的多尺度选择算法以及三种先进的在线流式特征选择算法相比,所提出的OSSFS-SROSS和OSSFS-SOSSC算法具有出色的分类性能和显著的特征降维能力。本文的其余结构如下:第2节简要回顾了邻域粗糙集与多尺度决策系统的相关内容;第3节根据最近邻思想提出了一种新的多尺度距离邻域粒度化方法,并利用该方法构建了多尺度距离邻域粗糙集;第4节对两种流式规模状态进行了形式化定义,并建立了流式规模选择模型,随后开发出了OSSFS-SROSS和OSSFS-SOSSC这两种在线流式规模与特征选择算法;第5节进行了全面的实验分析;第6节对本文进行总结。
预备知识
本节简要回顾了经典邻域粗糙集、多尺度邻域信息系统以及最优规模组合的一些基本概念。
多尺度距离邻域粗糙集
经典邻域粗糙集模型在处理混合特征(数值型和名义型)数据集时具有显著优势,但本质上仍受限于单一视角的粒度计算模式。面对多尺度数据,大多数现有的邻域粗糙集模型无法描述规模与粒度变化之间的内在关联。为解决这一问题,本节提出了一种用于……的多尺度距离邻域粒度化方法。
在线流式规模与特征选择方法
在数据流挖掘场景中,特征往往具有动态生成的特点,会持续不断地出现,即在线流式特征。尽管学术界为各种场景提出了众多在线流式特征选择方法,但现有研究在处理流式多尺度环境方面仍存在不足。针对这一局限,本节重点研究适用于流式数据的在线流式规模与特征选择方法。
实验
本节通过一系列数值实验结果,充分证明了所提出的OSSFS-SROSS和OSSFS-SOSSC算法的可行性与有效性。
结论
为解决现有在线流式特征选择研究在处理流式多尺度数据方面的局限性,本文提出了两种结合多尺度距离邻域粒度化的新型在线流式规模与特征选择方法,专门用于两种流式规模场景下的流式多尺度数据。首先,本文引入了一种基于最近邻思想的新型多尺度距离粒度化方法,随后据此构建了相应的……
未引用参考文献
[45]
CRediT作者贡献说明
刘浩杰:写作——审稿与编辑,写作——初稿撰写,方法论,形式化分析,数据整理。周楠:写作——初稿撰写,软件使用,数据整理。廖书娇:写作——初稿撰写,方法论,资金获取,形式化分析,概念构思。丁伟平:写作——初稿撰写,调研,资金获取。吴伟志:写作——审稿与编辑,调研,资金获取。
利益冲突声明
作者声明不存在任何可能影响本文研究的已知财务利益或个人关系。
致谢
本研究得到了中国国家重点研发计划(项目编号2024YFE0202700)、国家自然科学基金(项目编号12101289、12371466、U2433216)、福建省自然科学基金(项目编号2024J01800)、闽南师范大学研究生教学改革项目(项目编号YJG202522)、气象大数据数字福建实验室以及福建省数据科学与统计重点实验室(闽南师范大学)的支持。刘浩杰目前是闽南师范大学数学与统计学院的硕士研究生,其主要研究兴趣包括粗糙集、粒度计算和数据挖掘。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号