FLASH:融合采样与启发式策略的特征选择新方法提升模型性能与生物标志物识别
《npj Systems Biology and Applications》:Feature learning augmented with sampling and heuristics (FLASH) improves model performance and biomarker identification
【字体:
大
中
小
】
时间:2025年12月13日
来源:npj Systems Biology and Applications 3.5
编辑推荐:
为解决高维生物数据中冗余特征导致模型性能下降和泛化能力不足的问题,研究人员开发了FLASH特征选择算法。该方法结合过滤式筛选与递归特征消除交叉验证(RFECV),通过多统计检验和随机采样策略,在16个基因表达数据集上实现平均超过90%的分类准确率,且在独立验证中显著提升疾病相关基因识别能力,为生物标志物发现提供了新工具。
随着高通量测序技术的飞速发展,生物医学领域积累了海量的组学数据。这些数据通常具有“高维度、小样本”(large p, small n)的特点,即每个样本包含数千至数万个特征(如基因表达量),但样本量却十分有限。这种数据特性给机器学习模型的构建带来了巨大挑战:冗余特征会降低模型性能,隐藏的亚群结构和类别不平衡问题更是进一步限制了模型在独立数据集上的泛化能力。在临床诊断中,诸如MammaPrint、OncoType DX等基于基因面板的检测工具已成功应用于乳腺癌分型和复发预测,但这类精准医疗工具的数量仍十分有限。其核心瓶颈在于如何从海量特征中筛选出真正具有生物学意义且稳健的特征子集,这正是特征选择算法需要攻克的关键难题。
传统特征选择方法可分为过滤式(Filter)、包裹式(Wrapper)和嵌入式(Embedded)三类。过滤法依赖数据内在属性进行快速筛选,但可能忽略特征间的交互效应;包裹法通过迭代评估特征子集的预测性能来寻找最优解,但计算成本高昂;嵌入式方法则在模型训练过程中同步完成特征选择。然而,这些方法大多存在对预设阈值依赖性强、难以自动确定最优特征数量、对不平衡数据敏感等问题。更本质的是,特征选择属于NP难问题,现有算法往往只能获得局部最优解,且在不同数据集上表现波动较大。
为了突破这些局限,来自Translational Health Science and Technology Institute的Shivam Kumar、Abhinav Agarwal和Samrat Chatterjee研究团队在《npj Systems Biology and Applications》上发表了题为“Feature learning augmented with sampling and heuristics(FLASH) improves model performance and biomarker identification”的研究论文。他们提出了一种名为FLASH(Feature Learning Augmented with Sampling and Heuristics)的新型特征选择算法,通过融合过滤式预筛选与启发式递归消除策略,在提升模型性能的同时,增强了生物标志物识别的可靠性。
FLASH算法的核心技术方法主要包括三个阶段:随机采样、特征评分和特征学习。研究团队从19个公共基因表达数据集(如GSE233242、GSE40419等)获取实验数据,这些数据集涵盖乳腺癌、糖尿病、帕金森病等多种疾病,且具有不同的复杂度特征(类别不平衡、大特征小样本等)。首先,采用分层混合自助采样法从原始数据中生成1000个随机子集,每个子集均保持原始数据的类别比例。随后,对每个子集同时应用五种统计检验(t检验、单因素方差分析(ANOVA)、Wilcoxon秩和检验、Brunner-Munzel检验和Mann-Whitney U检验)计算各特征的p值,将显著p值(p<0.01)经负对数转换后汇总得到特征显著性分数(Fscore)。通过Kneedle算法确定最佳截断点为6%,筛选出初始候选特征集。最后,利用递归特征消除交叉验证(RFECV)策略,以步长为1逐步剔除冗余特征,并以支持向量机(SVM)、随机森林等六种分类器的交叉验证最高准确率(mAcc)作为评价标准,自动确定最优特征子集。
研究团队通过重复分层10折交叉验证评估了FLASH所选特征在六种常用分类器(SVM、随机森林、XGBoost、逻辑回归、决策树、K近邻)上的表现。结果显示,线性模型(如SVM、KNN和逻辑回归)在使用FLASH特征时表现出更稳定的性能优势。在11个数据集中,FLASH在8个数据集上实现了超过90%的平均准确率,在Illumina HiSeq平台数据上更是达到95%以上。这表明FLASH所选特征能有效适配多种机器学习算法,尤其在线性模型中表现突出。
通过对比使用全部特征与FLASH筛选特征的模型性能,研究发现完整特征集往往导致准确率下降,而经过RFECV优化后的特征子集能显著提升模型表现。例如,在某个数据集中,F1分数从初始低于0.4经特征选择后大幅提升至接近0.8。这一结果验证了冗余特征对模型学习的干扰,也凸显了FLASH中递归消除步骤对性能优化的重要性。
为探究FLASH所选特征的生物学合理性,研究人员可视化展示了Top基因与类别标签的相关系数分布。不同数据集呈现出独特的关联模式:GSE37751和GSE40419中基因主要表现为强负相关(ρ<-0.6),提示其可能作为肿瘤促进因子;GSE18864则存在多个高正相关基因(ρ>0.4),可能具有肿瘤抑制功能。这种数据特异性分布模式表明FLASH能自适应不同数据集的统计结构,同时捕捉有生物学意义的信号。
FLASH与七种主流方法(dRFE、互信息、MRMR、ElasticNet、神经网络、置换检验、SAGA)进行了全面对比。在多数数据集中,FLASH在准确率、F1分数、精确度和召回率上均优于对照方法。例如,在GSE99309数据集中,其他算法准确率仅为约70%,而FLASH达到近100%。尤其在对复杂数据集(如GSE233242、GSE40419)的处理上,FLASH表现出98.55%的平均准确率,显著提升了分类性能。
通过Jaccard相似性指数分析发现,FLASH所选基因集与其他方法重叠度较低,仅与dRFE在部分数据集中存在中等相似性。效应大小(Cohen's d)分析进一步揭示,FLASH倾向于选择具有中等效应大小(0.2-0.8)的特征,而非盲目追求强单变量信号。这种平衡策略使其既能捕获分散的变异模式,又兼顾了统计显著性与生物相关性。
为验证泛化能力,研究团队将FLASH在乳腺癌数据集(GSE233242、GSE5764)上筛选的特征应用于两个独立数据集(GSE52194、GSE21422)。结果显示,FLASH在独立验证中保持了约90%的准确率,而其他方法性能降至50%左右。更重要的是,FLASH所选特征与DisGeNET数据库中乳腺癌相关基因的重叠度高达70%-83%,显著高于其他方法,证明其识别特征的生物学相关性。
FLASH算法通过引入随机采样与多统计检验融合的策略,有效解决了高维生物数据特征选择中的稳定性与泛化性问题。其创新性体现在三个方面:首先,采用分层混合采样技术降低数据偏差,增强特征选择的鲁棒性;其次,通过五种统计检验的综合评估提升了对不同数据分布的适应性;最后,结合RFECV的自动优化机制减少了对人工参数设置的依赖。在16个基因表达数据集上的系统验证表明,FLASH在保持高分类精度的同时,所筛选特征显示出显著的生物学相关性,为疾病生物标志物的发现提供了更为可靠的计算工具。未来,该方法有望在多组学数据整合、临床诊断模型开发等领域发挥重要作用,推动精准医疗向更高效、更稳健的方向发展。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号