MetImputBERT:基于预训练BERT的NMR代谢组学数据缺失值插补新方法

《Briefings in Bioinformatics》:MetImputBERT: a pretrained BERT framework for missing value imputation in NMR metabolomics data

【字体: 大 中 小 】 时间:2026年01月01日 来源:Briefings in Bioinformatics 7.7

编辑推荐:

  本研究针对核磁共振(NMR)代谢组学数据中缺失值影响下游分析的问题,开发了基于预训练BERT框架的MetImputBERT插补方法。该方法通过掩码-重构任务在23万余人UK Biobank数据上预训练,直接推断新数据集缺失值。实验表明其在两个独立测试集上均优于KNN、MICE和SVD等传统方法,且推理速度显著提升,为代谢组学研究提供了高效可靠的插补工具。

  
在生命科学研究领域,代谢组学作为系统生物学的重要组成部分,能够全面揭示生物体内小分子代谢物的动态变化规律。核磁共振(NMR)技术因其无需衍生化处理、能够提供绝对定量数据等优势,已成为代谢组学研究的重要工具。然而,在实际研究过程中,由于样本运输问题、检测前环境因素影响以及代谢物信号低于仪器检测限等原因,NMR代谢组学数据中不可避免地存在缺失值,这些问题严重影响了数据的统计效能和下游临床解释的可靠性。
传统缺失值处理方法如K近邻(KNN)、链式方程多重插补(MICE)和奇异值分解(SVD)等,大多从统计学角度出发,未能充分考虑NMR代谢组学数据特有的格式和缺失值特征。更重要的是,这些方法通常仅基于待插补数据集本身进行学习,当样本量较小时容易受到异常值的干扰,导致插补结果不稳定。尽管已有一些针对质谱(MS)代谢组学数据的插补方法被开发,但它们并不直接适用于NMR数据的特点。因此,开发一种能够有效利用大规模先验知识、且专门针对NMR代谢组学数据特性的缺失值插补方法显得尤为重要。
为了解决这一挑战,哈尔滨工业大学计算学部的研究团队在《Briefings in Bioinformatics》上发表了一项创新性研究,提出了MetImputBERT——一种基于预训练BERT框架的NMR代谢组学数据缺失值插补方法。该方法的核心创新在于将自然语言处理领域的Transformer架构成功适配于连续型数值特征的代谢组学数据,通过大规模的预训练学习代谢物之间的复杂相互关系,从而实现对缺失值的准确重构。
研究人员开展这项研究的主要技术方法包括:利用英国生物样本库(UK Biobank)中232,048名参与者的完整NMR代谢组学数据进行预训练;设计专门的掩码-重构预训练任务,随机掩蔽15%的代谢物测量值并训练模型进行重构;采用基于Transformer的编码器架构处理168种代谢物浓度或249种代谢物测量值(包含81种代谢物比值)的输入数据;通过在阿尔茨海默病神经影像学计划(ADNI)和UKB-PPP两个独立数据集上引入不同比例(0.1%-20%)的人工缺失值来系统评估插补性能。
预训练MetImputBERT
研究团队使用来自英国生物样本库(UK Biobank)的168种血浆代谢物浓度数据对MetImputBERT进行预训练,该数据集包含超过23万名多种族裔个体的完整代谢组学数据(无缺失值)。模型经过96个训练周期后达到收敛,在验证集上表现出优异的性能:损失值为0.0819,掩码-重构成功率为0.9463,均方误差(MSE)为0.0819,平均绝对误差(MAE)为0.1306,决定系数(R2)为0.9178。此外,研究人员还构建了包含249个代谢物测量值(168种代谢物浓度和81种代谢物比值)的扩展模型,该模型训练78个周期后达到损失值0.0566,掩码重构准确率0.9647,MSE为0.0565,MAE为0.1080,R2为0.9436。
评估插补性能
为了全面评估模型的插补性能,研究人员选择了两个独立的NMR代谢组学数据集(UKB-PPP和ADNI)进行测试,这些数据集原本不含缺失值。研究团队在这些数据集中人工引入了0.1%、0.2%、0.5%、1%、2%、5%、10%和20%等不同比例的缺失值,并比较了MetImputBERT预训练模型与KNN、MICE和SVD等常用方法的插补效果。MetImputBERT将缺失数据标记为0,直接利用预训练阶段学习到的基线代谢物相互作用权重进行推断,而其他算法需要基于测试数据集本身进行插补。
实验结果表明,在两个测试数据集的所有缺失值比例下,MetImputBERT在MSE、MAE、R2、Pearson相关性和重构准确性等指标上均优于传统方法。以0.5%的缺失率(接近真实数据中UKB的0.16%和ADNI的0.57%)为例,通过比较真实值与插补值的分布发现,KNN、SVD和多重插补方法的性能普遍较差,其插补值与真实值的散点图更加分散,更多点偏离参考线(y=x)。而MetImputBERT的插补结果与真实值分布更为接近,显示出更高的准确性。
插补速度比较
研究人员还比较了不同方法在插补不同数量缺失值时的运行时间。MetImputBERT的推理速度极快,在图形处理器(GPU)上运行时,仅需3.3秒即可完成10,000个缺失值的插补。即使仅使用中央处理器(CPU)(约需430.7秒),其速度也显著快于多重插补方法(约1529.6秒),尽管比KNN和SVD插补稍慢。对于包含249个代谢物测量值的模型,在GPU上MetImputBERT的插补速度与KNN和SVD相当,远快于多重插补(MetImputBERT GPU:4.0±0.4秒,MetImputBERT CPU:490.1±1.9秒,多重插补:3437.6±24.5秒)。
代谢物组合比值的插补模型
考虑到部分用户可能需要插补代谢物之间的比值,研究人员还纳入了81种由代谢物组合衍生的比值,并基于总共249个代谢物测量值构建了预训练模型。即使用户的代谢组学数据集中完全缺失某些代谢物浓度或比值,也可以将其视为缺失值直接进行插补。实验证明,即使对于这种扩展的代谢物面板,MetImputBERT在几乎所有指标上仍能达到最先进的性能,并且无论缺失值数量多少都保持稳健。
本研究提出的MetImputBERT方法通过在英国生物样本库超过23万样本上的预训练,捕捉了复杂的代谢物间相互关系,能够在不需对新数据集进行额外训练的情况下准确重构缺失值。该方法的关键创新在于通过新颖的掩码-重构预训练任务,将BERT架构适配于处理连续型数值特征。与为离散令牌设计的传统掩码语言建模不同,该方法基于生物学有意义的误差容限定义重构成功标准,直接应对代谢物浓度的连续性特征。
MetImputBERT的优异性能反映了其与传统统计插补方法的根本区别。当测试数据集非常小时,基于大规模预训练语料库学习到的知识仍能实现准确插补。除了出色的插补性能外,MetImputBERT还实现了极快的插补速度,确保了其实用性。即使仅使用CPU,其运行速度也显著快于以往最常用且最准确的多重插补方法,这使其也适用于大规模代谢组学队列的插补需求。
然而,该研究也存在一些局限性。尽管MetImputBERT在超过23万多种族参与者的代谢组学数据上进行了预训练,但当应用于遗传背景显著不同的人群时,其性能可能会下降。如果输入数据具有显著不同的动态范围,MetImputBERT的性能也可能受到影响。在目标数据集的一个完整案例小子集上对模型进行微调可能会提高性能。此外,MetImputBERT专门为NMR代谢组学面板设计,不适用于基于MS的代谢组学数据。在NMR代谢组学中,低于检测限的值通常标记为零,这可能导致对浓度极低代谢物的插补不准确。
综上所述,MetImputBERT能够获得非常接近原始数据的插补结果,有效减少因数据缺失造成的样本量损失或不适当插补方法引起的偏差,从而增强NMR代谢组学在下游医学任务中的能力。这一创新方法为代谢组学研究社区提供了强大工具,有望推动精准医学和生物标志物发现领域的发展。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号