HCS-Net:一种融合瓶颈结构与残差MLP的混合ConvNeXt-Nano-Swin Transformer-Tiny,用于患者级皮肤癌分类

《Biomedical Signal Processing and Control》:HCS-Net: A Hybrid ConvNeXt-Nano-Swin Transformer-Tiny with bottleneck fusion and residual MLP for patient-wise skin cancer classification

【字体: 大 中 小 】 时间:2026年10月14日 来源:Biomedical Signal Processing and Control 5.7

编辑推荐:

   • 提出采用 ConvNeXt-Nano 和 Swin Transformer-Tiny 的 HCS-Net。 • 开发了用于局部与全局特征融合的瓶颈融合机制。 • 加入带 StarReLU 的残差 MLP 以改善特征区分能力。 • 达到 74.50% 的按患者划分准确率,F

  • 提出采用 ConvNeXt-Nano 和 Swin Transformer-Tiny 的 HCS-Net。• 开发了用于局部与全局特征融合的瓶颈融合机制。• 加入带 StarReLU 的残差 MLP 以改善特征区分能力。• 达到 74.50% 的按患者划分准确率,F1 分数为 0.7410。• 在 HAM10000 数据集上达到 96.17% 准确率,ROC-AUC 为 0.996,PR-AUC 为 0.981。引言人体最大的器官是皮肤,也是身体与环境接触的主要部位。它能抵御温度变化、感染、水分流失、阳光以及有害的紫外线(UV)辐射[1]。人体皮肤由三个主要层次组成,包括表皮层、真皮层和皮下组织。除了保护作用外,皮肤对于通过体温调节、水分流失调节以及促进维生素 D 的合成和储存来维持体内平衡也至关重要[2]。尽管具有保护与调节功能,皮肤仍然是极易受环境损害的器官,尤其是由长期暴露于紫外线辐射所造成的损伤。皮肤癌是由表皮细胞不受控制地生长引起的,主要是由于长期暴露于紫外线辐射及其他环境影响所致。它是全球最常见、甚至致命的一种癌症[3]。皮肤癌的皮肤病镜图像样本见图 1。由慢性紫外线暴露、接触致癌物质或较弱的免疫应答所引起的 DNA 突变在其发展过程中起着重要作用[4]。在过去三十年中,全球非黑色素瘤皮肤癌的负担显著增加,流行病学估计表明在未来二十五年内发病率将进一步上升。这些令人震惊的警讯表明了迫切需要建立能够进行早期诊断且具有可靠临床支持的精确、可扩展、自动化的诊断系统[5]。传统的诊断方法主要依赖大量的视觉检查和专家解读,这些方法常表现出观察者之间的差异性,且在资源有限的环境中难以获取。深度学习的发展革新了自动皮肤病变分析。卷积神经网络(CNN)在利用皮肤病镜图像获取层次化空间表示方面表现出极强的能力,从而在分类中实现了显著的性能提升[6]、[7]、[8]。尽管表现优异,CNN 本质上受限于其局部感受野,这限制了其捕获复杂病变中远距离上下文依赖关系的能力[9]。基于 Transformer 的架构已成为克服这些限制的医学图像分析的有效替代方案[10]。特别是视觉 Transformer(ViT)及其层次化版本,尤其是 Swin Transformer,因其能够有效建模局部与全局特征交互而受到极大关注[11]、[12]、[13]。移位窗口注意力机制的优势在于进行可扩展计算的同时保持上下文感知能力。一项使用过滤后 ISIC 2019 数据集的皮肤病变分类深度学习框架被提出,该方法采用迁移学习结合 EfficientNet-B4 从皮肤病镜图像中提取判别性特征。实验结果显示分类准确率和鲁棒性得到提升。然而,该研究仅关注图像数据,未探索对提升诊断可靠性至关重要的多模态融合策略[14]、[15]。此外,近期的基于 Transformer 的进展,包括基于 SwiGLU 的 MLP 模块和混合移位窗口注意力机制,进一步改善了皮肤病镜图像分类任务的判别性特征提取和上下文建模[16]。这些架构增强了语义表示学习并提升了病变分类性能。然而,可靠临床部署仍面临若干挑战。尽管取得了这些令人鼓舞的进展,但仍存在若干重大问题阻碍基于深度学习的诊断系统的一致临床实施。首先,大多数研究使用基于图像的划分技术,容易导致数据泄漏和性能高估,这在临床环境中并不适用[17]。其次,跨数据集验证水平较低,使得真实世界泛化能力的可信度难以保证[18]。第三,有效整合互补的局部(基于 CNN)和全局(基于 Transformer)表示仍然是一个重大挑战。融合策略不当可能导致特征冗余、表示流之间的不平衡以及不稳定的优化,最终限制分类性能[19]。为了解决这些局限,所提出的 HCS-Net 结合了并行的 CNN 和 Transformer 特征提取以及基于残差 MLP 的细化。该框架旨在改进判别性表示学习,同时在微调过程中保持训练稳定性。此外,采用严格的病变级别数据分离策略以减少数据泄漏风险,并提供对模型泛化能力的更现实评估。由于无法获取显式患者标识,使用病变 ID 作为分组标识符,以防止同一病变的图像被分配到不同数据划分。本研究通过确保属于同一病变 ID 的所有图像限制在单一数据划分中来处理这一数据泄漏现象。本研究的主要贡献总结如下:• 采用严格的病变级别分组协议,防止训练集与验证子集之间病变重叠,并对模型泛化能力提供更现实的评估。• 提出一种结合 ConvNeXt-Nano 和 Swin Transformer-Tiny 的新型 HCS-Net 架构,以学习互补的局部与全局特征表示。• 引入基于瓶颈的特征融合策略及后续基于残差 MLP 的分类头,以增强特征表示和分类稳定性。• 采用两阶段训练策略以提升优化稳定性和跨数据集泛化性能。过滤后 ISIC 2019 数据集的详细信息见 3.3 节。本研究按如下顺序展开。第 2 节讨论了相关工作,回顾了使用深度学习进行皮肤癌分类的研究。第 3 节介绍了预备知识。第 4 节描述了所提出的 HCS-Net 框架,包括按患者划分评估、混合 ConvNeXt-Swin 架构、特征融合以及训练策略。实验设置、评估指标、结果和消融研究在第 4 节中讨论。最后,第 5 节总结本研究并提出未来研究方向。章节片段相关工作在过去十年中,借助皮肤病镜图像,深度学习对自动皮肤病变检测作出了重大贡献。近期相关工作的总结见图 1。原始技术主要依赖卷积神经网络(CNN)直接学习皮肤病镜图像形式的层次化特征。包括 ResNet、DenseNet 和 EfficientNet 在内的流行网络在检测黑色素瘤方面取得了优异成果。预备知识本节介绍所提出 HCS-Net 框架使用的基本概念和数据。首先,使用高效的卷积架构 ConvNeXt-Nano 主干提取局部病变特征。其次,引入 Swin Transformer-Tiny 模型以通过层次化自注意力方式捕获全局上下文信息。最后,展示用于训练、验证和跨数据集评估的皮肤病镜数据集。共同地,这些组件将所提出的方法本研究的主要目标是开发一种能够自动将皮肤病镜图像分类为具有临床意义类别的深度学习框架 HCS-Net。通过整合基于卷积的(ConvNeXt-Nano)和基于 Transformer 的(Swin Transformer-Tiny,含交叉注意力机制)特征表示,该模型旨在协助皮肤科医生实现高精度诊断,并支持在评估实验设置下实现自动皮肤病变分类。实验结果与讨论本节讨论所提出 HCS-Net 框架的实验结果与性能分析。有效性以及泛化能力通过定量评估、跨数据集测试和消融研究进行评估。结论本文提出了一种基于皮肤病镜图像的皮肤癌自动分类的混合深度学习系统。所提出的 HCS-Net 将 ConvNeXt 和 Swin Transformer 整合为统一的混合架构,以利用卷积神经网络与基于 Transformer 的深度学习模型各自的互补优势。在本研究中,ConvNeXt 捕获皮肤病变的细粒度局部纹理和形态学特征,而 Swin Transformer 则专注于建模全局CRediT 作者贡献声明Rajesh Singh:撰写初稿、可视化、验证、资源、方法论、调查、概念化。R.K. Pateriya:监督指导。Surendra Singh:撰写审稿与编辑、可视化、监督指导、方法论。利益冲突声明作者声明不存在可能影响本论文所述工作的任何已知竞争性经济利益或个人关系。Rajesh Singh | R.K. Pateriya | Surendra Singh
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号