《Frontiers in Artificial Intelligence》:Frequency response compensation to optimize pretrained deep learning models in lung nodule malignancy classification
编辑推荐:
目的: 在计算机断层扫描(CT)上准确区分良恶性肺结节对于早期肺癌评估至关重要。然而,由于良恶性结节在纹理、边缘不规则性、边界锐利度和内部形态等方面可能表现出细微差异,而这些差异可能无法被传统卷积特征提取充分表征,因此分类仍具挑战性。
方法: 研究人员开发了一
目的: 在计算机断层扫描(CT)上准确区分良恶性肺结节对于早期肺癌评估至关重要。然而,由于良恶性结节在纹理、边缘不规则性、边界锐利度和内部形态等方面可能表现出细微差异,而这些差异可能无法被传统卷积特征提取充分表征,因此分类仍具挑战性。
方法: 研究人员开发了一种频率响应双线性滞后-超前(BT-LL)EfficientNetB3框架,用于肺结节良恶性分类。该方法将Lag-Lead频率补偿整合到预训练特征提取过程中,以细化中间表示。Lag分量执行结构平滑以保留低频信息,而Lead分量增强高频边界和纹理特征。相应的表示通过专用融合操作与原始特征图整合,获得频率细化特征用于分类。补偿滤波器是固定的,从而避免在滤波操作中引入额外参数学习。采用患者级数据划分,确保同一患者的结节不会分布在不同的实验子集中,降低信息泄漏风险。
结果: 所提模型在独立患者级测试集上实现了0.90的准确率、灵敏度和特异度,F1分数为0.81,AUROC为0.95。此外,还通过患者级交叉验证、交叉不平衡分析、IQ-OTH/NCCD图像级评估以及独立的BUS-BRA患者级评估对性能进行了评估。实验分析进一步包括使用McNemar检验进行成对模型比较的统计显著性检验,随后采用Holm校正控制多重比较,同时使用Cochran's Q检验评估多个模型配置之间的性能差异。相较于分支变体,组合配置实现了最佳灵敏度和平衡准确率。因此,双线性滞后-超前(BT-LL)框架为整合肺结节表示中低频和高频信息的贡献提供了一种显式的频率响应机制。
论文解读
一、研究背景与问题
肺癌仍然是癌症相关死亡的主要原因之一,早期诊断对提高患者生存率至关重要。CT上检测到的肺结节是肺癌筛查中的重要放射学发现,准确区分良恶性结节是临床决策的关键步骤。然而,肺结节良恶性分类面临诸多挑战:结节在大小、形状、密度、边缘不规则性、毛刺征、钙化和内部纹理等方面可能存在细微差异;CT成像本身受结节尺寸小、病灶与周围肺组织对比度低、边界模糊、邻近血管结构以及结节形态异质性等因素影响,增加了人工判读和计算机辅助诊断的难度。
尽管深度学习方法在肺结节分类中取得了显著进展,基于EfficientNet的架构在CT肺癌分类中展现出良好性能,但标准预训练卷积网络主要依赖数据驱动,可能无法显式保留与结节结构和边界特征相关的频率特定信息。近年来,注意力机制架构、自监督与多模态学习以及神经架构搜索等方法被用于改善判别性特征表示,但现有方法大多通过扩展特征提取架构、引入额外注意力机制或依赖更丰富的监督信息来提升性能,尚未直接研究中间CNN特征的频率响应如何影响恶性肿瘤判别。在肺结节良恶性分类中,低频结构信息和高频边界信息均具有临床意义:低频分量保留结节粗略形态和结构连续性,高频分量则强调边缘不规则性和精细结构细节。因此,有必要探索一种显式的频率感知特征细化策略,通过结构化和可解释的机制增强结构信息与边界信息的联合表征。
二、研究内容与主要结论
针对上述问题,研究人员提出了一种频率响应补偿策略,将Lag-Lead补偿整合到预训练EfficientNetB3的特征提取过程中。Lag分量执行结构平滑以保留低频信息,Lead分量增强高频边界和纹理特征,两者通过轻量级可学习融合操作与原始特征图整合,获得频率细化特征用于分类。补偿滤波器固定,不引入额外可训练滤波参数,仅融合阶段可学习,提供了计算高效且可解释的特征细化机制。
在LIDC-IDRI数据集上,该模型在独立患者级测试集上实现了0.90的准确率、灵敏度和特异度,F1分数为0.81,AUROC为0.95。通过患者级交叉验证、交叉不平衡分析、IQ-OTH/NCCD图像级评估和独立的BUS-BRA患者级评估进一步验证了性能。统计检验(McNemar检验配合Holm校正,Cochran's Q检验)表明组合配置优于分支变体。该研究证明了频率响应特征细化作为医学图像分类中结构化、可解释策略的潜力。
三、关键技术方法
研究人员主要采用了以下关键技术方法:其一,构建频率响应补偿模块,在EfficientNetB3的Mobile Inverted Bottleneck Convolution处理中,于深度卷积之后、Squeeze-Excitation重标定之前插入补偿模块,利用固定高斯低通核和拉普拉斯高通核对中间特征图进行深度卷积处理,分别获得Lag低频分支和Lead高频分支。其二,采用双线性变换(Tustin变换)将连续一阶Lag-Lead补偿器原型离散化,并通过沿空间轴的双向一阶递推扩展至二维特征图。其三,通过轻量级可学习的1×1卷积融合操作,将原始特征图、Lag补偿表示和Lead增强表示沿通道维度拼接并投影回原始通道数。其四,采用患者级数据划分策略,确保同一患者的结节不跨子集分布,降低信息泄漏风险。研究使用的主要数据队列为LIDC-IDRI公开数据集(1,073张结节图像,来自581位患者),并在IQ-OTH/NCCD和BUS-BRA数据集上进行外部验证。
四、研究结果
3.1 数据集与预处理: LIDC-IDRI数据集包含1,018例胸部CT病例,经预处理后保留1,073张符合条件的结节图像(781张良性、292张恶性),来自581位患者。采用患者级分层划分,训练集757张(416位患者)、验证集152张(80位患者)、测试集164张(85位患者)。图像经归一化后使用双三次插值调整至300×300像素以匹配EfficientNetB3输入尺寸。
3.2 频率响应补偿模块: Lag补偿器作为低通滤波器,通过固定高斯核(3×3,系数为1/16[1 2 1; 2 4 2; 1 2 1])进行深度卷积实现结构平滑。Lead补偿器增强高频分量,通过固定拉普拉斯核(3×3,系数为1/8[-1 -1 -1; -1 8 -1; -1 -1 -1])进行深度卷积实现边界增强。补偿滤波器系数固定,不接收梯度更新。参数配置为α=0.2、β=5.0、K=1.0、Ts=1.0、λ=1.0,工作点T1=0.2、T2=0.1。
3.3 二维扩展与融合: 一阶递推沿特征图的高度和宽度两个空间轴分别执行正向和反向滤波,取平均后对两个正交方向的结果再取平均,实现二维响应。融合阶段将原始特征图、Lag补偿表示和Lead增强表示沿通道维度拼接,通过无偏置1×1卷积投影回原始通道数,再经批归一化和非线性激活。每个补偿阶段(S1–S4)独立学习融合参数,实现阶段特定的频率特征整合。
五、讨论与结论
讨论部分指出,与现有频率感知方法相比,该研究的区别在于:高斯和拉普拉斯系数固定且不接收梯度更新,但后续特征融合操作可学习,因此该方法不引入可训练频率滤波器系数,仅优化轻量级融合阶段。与OctConv、FFC、FcaNet等重新设计卷积或注意力算子的方法不同,该方法为现有预训练特征层级提供固定残差补偿。与WaveLCDNet等可训练小波块结合注意力机制的方法相比,该方法保持高斯和拉普拉斯系数固定,直接引入预训练MBConvolution块内,无需频率滤波器学习、显式小波分解或额外注意力机制。Lag-Lead术语应视为控制频率响应的类比解释,而非断言空间核与经典连续或离散时间补偿器数学上完全一致。
研究结论表明,所提出的双线性Lag-Lead(BT-LL)框架为整合肺结节表示中低频和高频信息的贡献提供了一种显式的频率响应机制。在患者级测试集上实现了0.90的准确率、灵敏度和特异度,F1分数为0.81,AUROC为0.95。相较于分支变体,组合配置实现了最佳灵敏度和平衡准确率。该方法在保持预训练架构结构的同时,通过固定低通和高通空间先验结合轻量级可学习融合,增强了结节分类中结构信息和边界细节的联合表征,为医学图像分类提供了一种结构化且可解释的频率响应特征细化策略。