化学结构表征新范式:整合分子结构与子结构的异质嵌入模型研究

《IEEE Access》:Thinking like a CHEMIST: Combined Heterogeneous Embedding Model Integrating Structure and Tokens

【字体: 大 中 小 】 时间:2026年03月30日 来源:IEEE Access 3.6

编辑推荐:

  本研究旨在解决SMILES等分子表征格式在机器学习应用中存在的局限性。研究人员通过将分子分解为子结构并计算其描述符,以此作为语言模型(LM)的输入,并构建了整合RoBERTa语言模型与GIN、GCN、Graphormer等图模型的双模态架构。该框架在定量构效关系(QSAR)预测等任务上展现出显著优于传统方法的性能,为化学信息学提供了更精细、化学意义更强的模型输入策略。

  
在化学与药物发现领域,如何让计算机“看懂”并“理解”分子的结构与性质,是推动新药研发和材料科学发展的核心挑战。长期以来,科学家们习惯于用一种名为简化分子线性输入规范(SMILES)的文本字符串来表示复杂的化学结构,这种方法简洁直观,便于存储和交换。然而,当我们将这些SMILES字符串喂给人工智能模型,期望它能学会预测分子活性、毒性或性质时,问题便浮现出来。SMILES格式在机器学习任务中作为一种训练数据格式,存在显著局限:它丢失了分子的二维拓扑连接信息,对化学键和立体化学的表征不完整,并且对同一分子可能产生多种不同的SMILES表示,这给模型学习带来了不必要的噪音和复杂性。
与此同时,基于图神经网络(GNN)的模型直接在分子的原子-化学键图上进行运算,能更好地捕捉结构信息,但它们通常不擅长处理丰富的文本描述和序列模式。这就引出了一个关键问题:能否创造一种更优的分子表示方法,既能保留精确的化学结构细节,又能充分利用语言模型在序列学习上的强大能力?
近期,一项发表在《IEEE Access》上的研究给出了一种新颖的解决方案。该研究团队不再将分子视为一个整体或一串简单的符号,而是像真正的化学家一样“思考”:他们将分子拆解成一系列具有明确化学意义的“碎片”——即子结构(substructures)。对这些子结构,他们不再仅仅用符号表示,而是计算出一系列能够定量描述其物理化学性质的“描述符”(descriptors)。这些描述符就像分子的“指纹”或“简历”,详细记录了每个碎片的大小、形状、电荷分布、亲疏水性等关键特征。如此一来,模型获得的输入不再是模糊的符号序列,而是一套更详尽、化学相关性更强的量化数据。
基于这一思想,研究人员设计了一个名为“Thinking like a CHEMIST: Combined Heterogeneous Embedding Model Integrating Structure and Tokens”的双模态(bimodal)架构。这个框架创造性地将语言模型与图模型结合起来,形成合力。具体而言,他们将上述子结构及其描述符数据作为输入,送入一个名为RoBERTa的先进语言模型(LM)中进行学习,以捕捉序列化的模式和特征关联。同时,分子的原始图结构(原子为节点,化学键为边)被输入到图模型分支,这里他们探索并集成了三种强大的图神经网络:图同构网络(GIN)、图卷积网络(GCN)以及Graphormer,用以深度挖掘分子内部的拓扑连接与空间关系。最后,语言模型分支和图模型分支学习到的表征被融合在一起,共同用于下游任务的预测。
这一融合框架在多个化学信息学任务上接受了检验,尤其是在定量构效关系(QSAR)预测这一核心且经典的任务中,它展现出了超越传统单一模型方法的显著优势。这证明了该框架所生成的分子表示不仅更精细,而且更能反映其内在的化学本质,从而为从分子结构精准预测其生物活性或物理化学性质开辟了新路径。
主要关键技术方法
本研究采用了几项关键技术构建和验证异质嵌入模型。首先,提出了一种基于子结构分解与描述符计算的分子表示新方法,将分子分解为化学子结构并计算其描述符,以此生成更丰富的输入特征。其次,设计了一个双模态架构,该架构的一个分支使用RoBERTa语言模型处理子结构描述符序列,另一个分支则采用图神经网络(包括GIN、GCN和Graphormer)处理分子的原始图结构数据。最后,在多个公开数据集上对模型进行了评估,核心任务是定量构效关系(QSAR)预测,通过对比实验验证了所提框架相对于传统单一模态或使用SMILES输入的方法的优越性。
研究结果
1. 子结构与描述符表征的有效性验证
结论:通过将分子分解为子结构并计算其描述符作为模型输入,相比直接使用原始SMILES字符串,能提供更具化学意义且信息更丰富的特征表示。消融实验表明,使用该表征能提升模型在多个下游任务中的基线性能。
2. 双模态架构的协同优势
结论:提出的整合RoBERTa语言模型与图神经网络(GIN/GCN/Graphormer)的双模态框架,在QSAR预测等任务上,性能显著优于仅使用语言模型或仅使用图神经网络的单模态模型。这证明了语言模型捕获的序列化描述符模式与图模型捕获的拓扑结构信息具有互补性,融合后能更全面地理解分子。
3. 在定量构效关系(QSAR)预测任务上的性能表现
结论:在多个标准QSAR数据集上的系统评估显示,本研究提出的“CHEMIST”框架取得了当前最先进(state-of-the-art)的结果。其预测精度和鲁棒性均超过了依赖SMILES输入的传统语言模型方法以及多种主流的图神经网络方法,验证了所提出分子表示与模型架构在关键化学信息学应用中的实用价值。
4. 与不同图神经网络架构的兼容性分析
结论:研究探讨了框架中图模型分支分别采用GIN、GCN和Graphormer时的效果。结果表明,该双模态框架具有良好的通用性,与这三种不同的图网络架构均能有效集成并提升性能,其中某些架构在特定任务上可能表现出细微优势,但整体上框架的有效性不依赖于某一特定图网络实现。
研究结论与讨论
本研究成功开发并验证了一种名为“CHEMIST”的新型分子表示学习框架。其核心贡献在于跳出了传统SMILES表示的局限,通过“子结构分解-描述符计算”这一化学信息学启发的方法,为模型提供了更精细、化学意义更明确的输入。所提出的双模态架构巧妙地融合了处理序列描述符的语言模型(RoBERTa)与处理图结构的图神经网络,使得模型能够同时利用分子的功能性碎片特征和整体拓扑结构信息。
实验结果表明,这种异质嵌入策略在定量构效关系(QSAR)预测这一关键任务上实现了性能的显著提升,超越了现有主流方法。这深刻表明,在化学人工智能领域,对分子进行更贴近化学家思维的本质化、结构化表征,比单纯优化模型架构更为基础且有效。该工作不仅为化学语言模型和图神经网络的结合提供了新颖范式,也为更广泛的分子性质预测、药物虚拟筛选和材料设计任务提供了强大的新工具。未来,将此类方法扩展至三维分子结构、反应预测以及多模态生物医学数据融合,具有广阔的前景。论文所倡导的“像化学家一样思考”的理念,强调了领域知识驱动在人工智能与科学交叉研究中的根本重要性。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号