《The Journal of Steroid Biochemistry and Molecular Biology》:Exploring the Feature Prioritization and Data Sampling of PCOS Diagnosis via Densely connected Attention based Squeeze Deep Learning Detection Model
编辑推荐:
准确高效的多阶段PCOS检测模型研究,提出SMOTE-ENN数据平衡、GS2TM混合优化特征选择及DASCD深度可解释模型,解决数据不均衡、特征冗余与过拟合问题,结合SHAP分析实现临床可解释性,在多基准数据集上达到98.7%检测精度。
Siji Jose Pulluparambil | B Subrahmanya Bhat
斯里尼瓦斯大学计算机科学与信息科学研究所,印度曼加洛尔575001
摘要
由于多囊卵巢综合征(PCOS)症状的复杂性和现有数据集中的数据不平衡问题,准确及时的诊断仍然是一个挑战。本研究旨在开发一种强大的PCOS检测模型,通过引入一种新的混合方法来处理这些挑战,该方法在处理数据平衡问题时能够有效优先考虑特征。研究包括三个主要阶段:预处理、特征选择和PCOS检测。在预处理阶段,通过结合合成少数样本过采样技术(SMOTE)和编辑最近邻(ENN)来强调数据集平衡。在此阶段,替换空值、平衡数据集和删除不必要的列以提高PCOS检测的准确性。第二阶段是特征选择,提出了一种名为Gorilla Salp Swarm Troop Model(GS2TM)的独特混合仿生策略来选择最优的特征集。GS2TM算法将特征集减少了51.1%,仅保留了23个特征,同时实现了98.7%的先进准确率。此外,还提出了基于密集连接注意力的压缩卷积检测模型(DASCD)用于PCOS的预测,其中多层以前馈方式进行调整。这项工作的新颖之处在于它统一解决了PCOS检测中的三个主要挑战,即数据集不平衡(SMOTE-ENN)、特征冗余(GS2TM)和过拟合(带注意力的DASCD),同时提供了高准确率和增强的可解释性。因此,与现有的基于机器学习的策略相比,所提出的检测模型显著提高了准确性。具体来说,利用23个特征,所提出的模型在区分PCOS和非PCOS方面的准确率为98.7%。
引言
多囊卵巢综合征(PCOS)是一种常见的内分泌疾病,影响5-10%的育龄妇女(15-45岁),常常导致不孕、代谢并发症以及长期风险,如心血管疾病和2型糖尿病[1]、[2]、[3]、[4]、[5]、[6]、[7]、[8]、[9]。尽管常规诊断方法(包括超声成像、激素分析和临床评估)被广泛使用,但它们资源密集且受观察者间差异的影响。最近的研究探索了机器学习(ML)和深度学习(DL)作为PCOS检测的替代方案,在处理大型数据集、发现隐藏模式和提高预测准确性方面显示出潜力[10]、[11]、[12]、[13]、[14]、[15]、[30]、[35]、[36]、[37]。先前的研究表明,ML和DL可以通过整合临床和影像数据、应用特征选择以及利用SVM、随机森林和深度CNN等分类器来辅助PCOS检测。这些模型突显了人工智能在提高诊断准确性和减少临床工作流程中对人工依赖方面的潜力。
尽管取得了这些进展,但仍存在显著的限制。大多数现有模型是在不平衡和异构的数据集上训练的,导致偏差和泛化能力差。高维特征空间通常引入冗余,增加了过拟合的风险。许多模型作为“黑箱”运行,可解释性较低,这限制了临床信任和采用。此外,使用多中心或前瞻性数据集进行的外部验证很少,使得临床适用性不确定。尽管如此,大多数现有模型是在不平衡和异构的数据集上训练的,导致偏差和泛化能力差。高维特征空间通常引入冗余,增加了过拟合的风险。许多模型作为“黑箱”运行,可解释性较低,这限制了临床信任和采用。此外,使用多中心或前瞻性数据集进行的外部验证很少,使得临床适用性不确定。相关医学成像领域的最新发展指出了互补的方向。例如,使用进化策略和群体优化器优化的集成模型在医学图像分类任务中提高了鲁棒性[38],而轻量级基于注意力的CNN[39]和联邦/轻量级设计[40]在临床环境中推进了部署和隐私保护的模型共享。这些进展促使我们同时关注(i)先进的特征选择以减少冗余同时保留区分性特征,(ii)强大的数据平衡以减轻偏差,(iii)提供临床洞察的可解释模型,以及(iv)支持跨不同人群泛化的验证框架。
本研究通过一个统一的流程来解决这些需求,该流程结合了SMOTE-ENN进行数据平衡,GS2TM进行优化特征选择,以及DASCD进行基于深度注意力的分类,并结合SHAP分析以提高可解释性。所提出的GS2TM引入了一种混合元启发式策略,结合了Gorilla Troop优化器的探索能力和Salp Swarm算法的利用效率。混合和基于群体的优化器最近在医学应用中的优化和特征选择任务中表现出强大的性能,这激发了我们的两级合作设计[41]、[42]。与传统元启发式方法不同,GS2TM采用两级合作机制,其中基于大猩猩的探索动态指导Salp Swarm的利用,而群体记忆更新策略减少了过早收敛并提高了搜索多样性。这种设计能够在保留最具区分性特征的同时实现有效的降维,这是现有单一启发式方法无法实现的。
DASCD进一步增强了这项工作的新颖性。它通过结合密集连接的卷积骨干和基于注意力的压缩操作,超越了通用的CNN-注意力框架,专门用于捕捉PCOS相关临床和超声特征之间的微妙依赖关系。最近关于轻量级注意力机制[39]和联邦友好架构[40]的研究展示了紧凑、基于注意力的设计在临床部署和多站点协作中的实用性,这影响了我们的架构选择。自适应特征重新校准模块突出了医学相关的属性,同时抑制了冗余属性,从而提高了可解释性和临床可信度。当与SMOTE-ENN结合用于数据集平衡时,使用SMOTE-ENN、GS2TM和DASCD的统一流程为PCOS检测的三个主要挑战(数据集不平衡、特征冗余和过拟合)提供了全面的解决方案,建立了一个独特且具有临床意义的框架。最近的发展强调了跨多站点数据集的可解释性和泛化的重要性,以确保该流程在临床上的实用性[43]。通过将DASCD与SHAP结合,我们的框架将计算准确性与可解释性结合起来,支持在临床工作流程中的采用。
本研究的主要贡献如下:
- ?
通过结合SMOTE和ENN引入了一种混合数据平衡方法,以解决PCOS数据集中的类别不平衡问题,提高了泛化能力并减少了偏差。
- ?
提出了一种新的GS2TM,它结合了Gorilla Troop优化器的探索能力和Salp Swarm算法的利用效率,实现了有效的降维和保留区分性特征。
- ?
开发了一种新颖的DASCD模型,用于捕捉临床和超声特征中的空间、时间和通道依赖性。其密集连接支持特征重用,压缩层提供紧凑的表示,注意力机制突出了医学相关的属性,从而提高了可解释性。
- ?
应用SHAP确保透明度,提供了每个特征对预测的贡献洞察,并弥合了计算性能和临床信任之间的差距。
- ?
统一的流程结合了SMOTE-ENN、GS2TM和DASCD,共同解决了数据集不平衡、特征冗余和过拟合的关键挑战,同时提高了可解释性和临床相关性。
PCOS影响5-10%的育龄妇女,其特征是不规律的月经、激素失衡和多个卵巢囊肿。这些表现常常导致不孕、代谢并发症以及心血管疾病和2型糖尿病的风险增加。标准诊断依赖于超声成像、激素检测和临床评估,这些方法可能资源密集且耗时。最近在ML和DL方面的进展显示了自动化PCOS检测的潜力,然而不平衡的数据集、不足的预处理和有限的可解释性限制了大多数现有研究的应用。缺乏广泛的临床验证和优化方法的使用进一步限制了它们的实际应用。本研究的动机在于通过开发一个自动化且可解释的PCOS检测系统来解决这些差距,该系统不仅提高了预测准确性,还提高了临床信任和可用性。为此,所提出的框架整合了临床密集的特征和易于获取的指标。该设计旨在减少诊断延迟,支持早期风险分层,并将PCOS检测能力扩展到初级保健和资源有限的环境中,这些环境中并不总是能够进行全面的内分泌学检测。
研究论文的组织结构如下:第2节描述了与PCOS检测相关的最新研究及其问题陈述。第3节描述了所提出的工作,包括几个阶段和网络架构。第4节描述了实验设置,第5节和第6节描述了实验设置、结果和讨论。第7节以结论和未来方向结束。
文献综述
文献调查
这里回顾了一些与所提出方法相关的现有文献。
PCOS这种健康障碍影响全球约1000万妇女,在印度,由于缺乏意识,五分之一的妇女受到影响。如果PCOS在早期没有得到诊断和管理,可能会导致各种并发症,包括2型糖尿病、心血管疾病、高血压、不孕和其他代谢障碍。因此,在早期阶段检测这种疾病至关重要。
提出的方法
女性不孕的最常见原因之一是PCOS,它影响许多育龄妇女,并可能持续到她们的整个生育期。因此,这项研究开发了一个性能更好的有效检测模型。这项研究经历了四个关键阶段:数据采集和可视化、数据预处理、特征选择和检测。在处理数据之前,预处理至关重要。
数据集描述
所提出的PCOS检测模型使用了公开可用的Kaggle PCOS数据集以及额外的基准数据集(Real-world benchmark、PCOS survey、Vedpathak PCOS和UCI PCOS)进行外部验证。这些数据集包含患者的临床、生化和人口统计信息,标签指示PCOS或非PCOS状态。由于医学数据集通常存在类别分布不平衡的问题,初步的数据集分析显示
数据预处理和平衡的影响
预处理阶段的主要重点是数据平衡,这是通过结合SMOTE和ENN平衡模型来执行的。此外,在预处理阶段,还删除了序列号、患者文件编号和未命名的列等列。所提出的数据采样模型与未经调整采样阶段的现有分类器模型进行了比较。因此,十折交叉验证阶段在应用SMOTE和不应用SMOTE的情况下进行了评估。
结论
准确及时的PCOS诊断对于有效的临床管理和早期干预至关重要。本研究提出了一个新颖的深度学习框架,结合了先进的特征选择、数据平衡和DASCD模型,以解决PCOS检测中的关键挑战。所提出的方法在将数据平衡、特征降维和基于深度学习的预测统一到一个流程方面具有方法论创新性,同时实现了先进的性能
未来方向
未来使用机器学习进行PCOS检测的工作应侧重于提高临床适用性、鲁棒性和泛化能力。与妇科医生、内分泌学家和其他医疗专业人员的临床验证对于验证选定的特征和模型预测至关重要,确保与Rotterdam或NIH指南等既定诊断协议保持一致。应利用纵向和多中心数据集来评估疾病
CRediT作者贡献声明
B Subrahmanya Bhat:撰写 – 审稿与编辑、可视化、验证、监督、软件、资源、概念化。Siji Jose Pulluparambil:撰写 – 原始草稿、项目管理、方法论、调查、资金获取、正式分析、数据管理、概念化。