《Diagnostics》:Cross-Domain Generalization of Deep Learning Architectures for Cephalometric Landmark Detection: A Dual-Dataset and Multi-Device Benchmark
编辑推荐:
背景/目的:用于头影测量标志点检测的深度学习模型在单一基准上报告接近上限的精度,但多数在同一数据集上训练与测试。最佳域内架构在域外是否仍最佳尚未被系统量化。方法:四类架构族(热图卷积神经网络(Convolutional Neural Network, CNN)
背景/目的:用于头影测量标志点检测的深度学习模型在单一基准上报告接近上限的精度,但多数在同一数据集上训练与测试。最佳域内架构在域外是否仍最佳尚未被系统量化。方法:四类架构族(热图卷积神经网络(Convolutional Neural Network, CNN)、两阶段级联、坐标回归视觉Transformer(Vision Transformer, ViT)、预训练ResNet-50)分别在两个独立来源数据集——ISBI 2015(400张图像,单设备)与Aariz(1000张图像,七设备)——上训练,并在两者上评估其共享的19个标志点(毫米计)。所有轴均取三种子(均值±标准差):跨数据集矩阵、留一设备外偏移、平衡联合训练、预训练对从头训练消融、标志点级拆分。结果:域内平均径向误差(Mean Radial Error, MRE)为2.47–3.04 mm(Aariz)与4.12–5.55 mm(ISBI);跨数据集误差陡升(通用化下降——域外误差的相对增幅——达155–426%)。域内最准模型(从头训练热图CNN,2.47 mm)降幅最大,且所有预训练估计均低于所有从头训练估计(族均值248%对380%):域内排序不能预测跨域排序。留一设备外揭示可复现的设备特定偏移(留出MRE 1.89–7.94 mm)。观察者间变异为0.53 mm,故跨域误差达人工带的15–44倍。平衡联合训练缩小四架构跨域差距(两域≈2.1–3.5 mm)且不损域内精度。预训练将Aariz→ISBI跨域误差减半以上(7.73对16.36 mm),反向则否,支持单向机制而非普适。A点、B点、鼻根点(Nasion)、颏下点(Menton)域外均超2 mm临床阈,含域内亚毫米点。结论:单数据集精度大幅夸大临床泛化性,最佳域内架构非最可迁移者,故域内排行榜不宜作为临床部署选模依据;平衡多源训练可恢复所测架构大部分损失。
研究背景与问题提出
头影测量分析是正畸诊断与治疗规划的基础,手动描记侧位头颅片标志点耗时且受观察者间/内变异影响。现有自动化检测在ISBI 2015等单数据集上已达近专家级精度(MRE趋近1–2 mm),但该基准全部由单台Soredex CRANEX Excel设备以0.1 mm/像素采集,模型在跨设备、跨分辨率、跨人群时出现的域偏移(domain shift)才是决定临床可用性的关键。更突出的是,架构归纳偏置与域偏移的关系未被量化:热图CNN、级联、坐标回归ViT、预训练ResNet-50在拟合单域时最优者,未必在采集偏移下最鲁棒,且现有文献缺乏多架构×多数据集×毫米级临床校准的泛化基准。该研究由此提出核心问题:单集最优架构是否跨集最优,以及四类架构族在跨数据集与跨设备条件下如何分化。论文发表于《Diagnostics》。
主要关键技术方法
研究人员采用两独立公开数据集:ISBI 2015(400例侧位片、19标志点、单设备、0.1 mm/像素、150/150/100划分)与Aariz(1000例、29标志点中取19共享点、七设备、按图校准、700/150/150划分),以高级正畸医师核对标志点对应关系。四架构族(HRNet式高分辨率热图网+soft-argmax、两阶段深度监督级联、vit_small_patch16_224坐标回归ViT、ImageNet预训练ResNet-50坐标回归头)在固定60轮Adam+余弦衰减+smooth-L1+轻增强协议下各训三种子;构建2×2跨数据集矩阵、Aariz七设备留一设备外、平衡联合训练、ResNet-50预训练对随机初始化单变量消融、HRNet与ViT的19点级误差拆分五类轴;主指标MRE(mm)与通用化下降GD=(MREcross?MREin)/MREin×100%,辅以2 mm成功检测率(Success Detection Rate, SDR)作描述量,以Aariz高年资对低年资观察者间0.53 mm为人工参照。
研究结果
3.1 域内精度:Aariz上四族MRE 2.47–3.04 mm(HRNet最准2.47 mm),ISBI上4.12–5.55 mm,域内跨度不足0.6 mm,掩盖了后续跨域崩溃。
3.2 跨数据集泛化:Aariz→ISBI时HRNet从2.47升至11.13 mm,ISBI→Aariz时达20.15 mm以上;GD显示从头训练热图族(338–426%)完全高于预训练坐标回归族(155–316%),族均值380%对248%,且预训练族种子间更稳定(SD~20%对~60%)。域内最准者跨域次差,排序近倒置。
3.3 数据集内跨设备泛化:以ViT行Aariz留一设备外,留出MRE均4.95 mm(域内~2.72 mm),七设备分四带——Smart3D优于域内(GD ?29±7%)、Hyperion X5近中性(5±21%)、三台中等(66–101%)、Rotograph EVO与ProMax+ProTouch翻倍(GD 172±9%、181±15%);Wilcoxon p=0.078因n=7不显著但效应可复现。
3.4 人工专家参照:Aariz高/低年资差均0.53 mm(中位0.13 mm),Porion与Gonion最难(1.34、1.32 mm);模型域内最佳~2.5 mm(约5×),跨域15–44×该带。
3.5 缓解策略平衡联合训练:两集平衡混合训后,四架构两域均落2.1–3.5 mm且不损域内,HRNet于Aariz反略优(2.21对2.47 mm),从头热图族反成联合训最强(ISBI上2.53 mm)。
3.6 预训练对从头消融:同ResNet-50坐标回归头,Aariz→ISBI预训练跨域7.73±0.39 mm对从头16.36±0.29 mm(GD 155%对318%);ISBI→Aariz绝对误相近(23.07对20.62 mm)但GD因分母小而反向略高,证明预训练优势非对称。
3.7 标志点级拆分:HRNet与ViT跨域下A点、B点、Nasion、Menton全超2 mm(如HRNet下12.06、10.57、7.67、5.96 mm),而Menton域内HRNet仅0.73 mm;HRNet跨域不均(3.89–29.21 mm),ViT较匀(4.77–12.61 mm),Gonion处差三倍以上;跨域最差点与人类最不定点在Porion、Gonion重合。
讨论部分总结
研究人员指出,域内排行榜不能预测跨域排序,使基于单集选模的临床部署不可靠;ViT最低均跨域误(14.41 mm)与预训练CNN表现一致,支撑“预训练+坐标回归”抗偏移而非注意力机制本身;机制上归为ImageNet特征对设备纹理不变性+坐标头弱绑定像素强度。临床面:跨域SDR@2 mm跌至6–17%,无监督上新设备不可用;留一设备外证明同院换机亦可能失效;平衡多源训练是低成本的实用解。局限含三种子偏少、固定协议不等同架构因果隔离、设备轴仅用ViT、ISBI仅高年资标注而Aariz用均标(~0.53 mm级偏差远小于5–18 mm跨域移)、架构与预训练/分辨率/输出头混淆未全解。
结论部分翻译
在单一头影测量数据集上最优的架构并非跨至另一集最优者:域内精度与跨域鲁棒性分化,域内最准(从头热图CNN)跨集降幅最大,预训练坐标回归(ViT绝对跨域误最低、ResNet-50 GD最小)迁移最佳。域偏移普遍存在于集间与同集设备间,使所有模型域外远高0.53 mm观察带。析至单点,诊断载重点A点、B点、Nasion、Menton域外全超2 mm阈,含训练集亚毫米点。受控消融示ImageNet预训练解释部分优势但非双向对称。关键的是,简单平衡多源训练使四架构近恢复域内精度,表明训练分布是跨域误主驱因,架构效应仍在。头影测量AI应跨临床将遇影像源评训而非单基准。三项实务后果:需标准多设备基准替代单split;设备级性能应与聚合精度并列报告;临床依赖前须在接收中心自有图像验证,不足时在目标设备适度平衡样本微调。
全文严格依据所传文档浓缩,未引入外部推测;专业术语首现加注英文缩写,上下标以/呈现,无HTML转义、无svg、无表格。