《ACS Omega》:Comparative Evaluation of Deep Learning Graph Neural Networks and Classical Machine Learning Models for Predicting Heats of Combustion as a Key Hazard Indicator under GHS/CLP Standards
编辑推荐:
准确预测燃烧热(Heat of Combustion, HoC)对于燃料设计和化学安全评估至关重要。研究人员系统评估了四种机器学习模型——极限梯度提升(XGBoost)、多层感知器(Multilayer Perceptron, MLP)、图卷积网络(Graph
准确预测燃烧热(Heat of Combustion, HoC)对于燃料设计和化学安全评估至关重要。研究人员系统评估了四种机器学习模型——极限梯度提升(XGBoost)、多层感知器(Multilayer Perceptron, MLP)、图卷积网络(Graph Convolutional Network, GCN)和神经网络卷积(Neural Network Convolution, NNConv)——在包含4516种化合物的数据集上预测HoC值的能力。结果表明,基于描述符的方法(XGBoost和MLP)训练时间更快(约34–60秒)且最终测试误差更低(分别为2.08和2.31 kJ/g),其中MLP实现了最高的决定系数(R2 = 0.942)。相比之下,基于图的方法(GCN和NNConv)需要显著更长的运行时间(约360–2700秒),但每轮(epoch)收敛更快,表现出稳健的一般化能力和最小的过拟合,并产生稳定的误差分布。残差和密度分析证实,NNConv在实验值周围产生了最紧密的聚类,反映了高预测保真度。重要的是,当应用于GHS/CLP危险分类(20 kJ/g阈值)时,所有模型均能可靠区分易燃和不可燃化合物,而模型特定的模糊区域突出了边界情况。对预测误差在GHS/CLP可燃性标准下分类影响的分析表明,NNConv总体表现最佳,假阴性最少。这些结果强调了分子性质预测中计算效率与表征丰富性之间的权衡,同时证明了基于描述符和基于图的模型均可作为监管应用中有效的高通量筛选工具。
该论文发表于《ACS Omega》,研究人员针对燃烧热(HoC)这一关键热化学参数,系统对比了经典机器学习与深度学习图神经网络方法的预测性能,并评估了其在化学品监管分类中的应用价值。
**研究背景与问题**
燃烧热是能源应用、化学安全评估以及全球化学品统一分类和标签制度(Globally Harmonized System of Classification and Labeling of Chemicals, GHS)及其欧盟分类、标签和包装法规(Classification, Labeling and Packaging, CLP)监管分类中的关键参数。准确测定HoC对于评估可燃性危害、设计更安全的化学工艺以及指导替代燃料开发具有重要意义。然而,传统实验方法耗时、昂贵且有时存在危险性,尤其对于高反应性或新型化合物。传统计算方法方面,基团贡献法虽快速且可解释,但受限于参数化不完整,对罕见或非传统官能团的分子可能失效;量子化学计算方法如密度泛函理论(Density Functional Theory, DFT)虽精度高,但计算量大、随分子尺寸扩展性差,难以用于大规模数据集或高通量筛选。近年来,机器学习方法成为预测分子性质的有前景替代方案,经典机器学习模型如XGBoost和多层感知器(MLP)在提供精心设计的分子描述符时已证明成功;而深度学习图神经网络(Graph Neural Networks, GNNs)则通过直接在分子图上操作,通过迭代消息传递架构传播信息,学习蕴含局部和全局结构特征的丰富表征。尽管已有研究比较了描述符方法和GNN架构在预测生成焓、溶解度等热化学性质中的应用,但针对HoC的系统评估及其与GHS/CLP危险分类的相关性研究仍然缺乏。此外,GNN的最佳架构选择(包括层数和隐藏维度)在相对较小的实验筛选HoC数据集中的理解仍不充分。为填补这些空白,研究人员开展了此项研究。
**研究方法与数据来源**
数据集来源与处理:研究人员从PubChem获取分子结构(SDF格式),从美国国家标准与技术研究院(National Institute of Standards and Technology, NIST)热化学数据库获取实验HoC值,构建了包含4516种分子的数据集。该数据集经RDKit标准化处理,约含50%不同的Bemis-Murcko骨架,平均Tanimoto相似性为0.243,表明在官能团、环系统和分子量方面具有 substantial 结构多样性。研究移除了重复结构,排除了缺失、不一致或非标准化HoC测量值的条目,并通过Z分数(>3σ)检查并移除了确认存在测量误差的异常值。
模型架构:(1)XGBoost基线模型:输入为17个全局描述符的拼接,训练300轮提升,最大树深度为8;(2)MLP模型:输入与XGBoost相同,使用Adam优化器,学习率0.0001,权重衰减0.0001,批大小32,隐藏维度考察了128、64、32、16;(3)GCN模型:分子编码为无向图,节点代表原子,边代表化学键,忽略边的属性信息;(4)NNConv模型:编码为神经网络消息传递网络,包含两个NNConv层进行消息传播,每个层由紧凑的边网络控制,应用全局平均池化产生固定长度分子嵌入,全局分子描述符通过单独的全连接层处理,然后将描述符嵌入和图嵌入拼接,再通过最终全连接层进行回归,同样考察批大小32和隐藏维度128、64、32、16。
特征工程:节点特征包括原子序数、原子度、形式电荷、芳香性、隐式H计数、杂化方式、原子质量、Pauling电负性、环内标志、价电子/隐式价;边特征包括键级、共轭标志、环成员、立体化学、键方向(如适用)。17个全局描述符包括分子量(Molecular Weight, MW)、精确分子量、辛醇-水分配系数(LogP, Crippen)、拓扑极性表面积(Topological Polar Surface Area, TPSA)、氢键供体数(HBD)、氢键受体数(HBA)、可旋转键数(RotB)、sp
3碳比例(Fsp
3)、脂肪环数、芳香环数、摩尔折射率、重原子计数、环计数、形式电荷总和、价电子数、自由基电子数和Bertz复杂度指数。
数据处理:连续输入描述符基于训练集统计量标准化为零均值和单位方差;神经网络训练的目标值(HoC)也进行标准化,最终预测重新缩放为kJ/mol以报告平均绝对误差(Mean Absolute Error, MAE)。XGBoost直接使用原始目标值(kJ/mol)。
训练与评估:数据集随机划分为80%训练集和20%测试集,模型开发采用5折交叉验证。各模型训练最多300轮(XGBoost为提升轮数),当验证MAE连续4次未改善时应用早停。评估指标包括MAE、均方误差(Mean Square Error, MSE)、决定系数(R
2)和混淆矩阵,分类指标包括准确率、灵敏度、精确率和F1分数。
**研究结果**
训练损失收敛与计算时间:所有神经网络模型(NNConv、GCN和MLP)在相同CPU和相同早停规则、隐藏维度和批大小下进行公平比较。XGBoost最快(约34秒),其次是MLP(约60秒),而基于图的模型显著更慢,GCN约360秒,NNConv约2700秒。这反映了GNN更高的参数计数和消息传递开销。尽管如此,GCN和NNConv在每轮损失降低方面收敛更快,MSE在前几次迭代中急剧下降并稳定于低值;MLP收敛更渐进且有振荡;XGBoost稳定下降但在更高损失处平台化。
训练与测试MAE收敛及泛化间隙:描述符模型显示更平滑的收敛行为,XGBoost达到最低最终测试MAE(约400.90 kJ/mol),尽管需要100轮提升。XGBoost测试MAE略高于训练MAE,表示最小过拟合。MLP在轮数上收敛更快但测试动态噪声更大,稳定于约445.89 kJ/mol。图模型(GCN和NNConv)在前15–20轮内表现出非常陡峭的损失降低,但最终测试MAE较高(GCN约653.4 kJ/mol,NNConv约466.8 kJ/mol)。重要的是,GCN和NNConv保持训练和测试曲线紧密对齐,表明最小过拟合和良好的泛化能力。
泛化间隙分析:XGBoost的泛化间隙先轻微下降后稳步增加,表明随训练进展存在过拟合;MLP显示间隙大幅波动,反映早期训练不稳定性;GCN和NNConv在初始轮次后泛化间隙迅速下降并稳定于零附近,表明这些图模型保持一致的预测性能而无严重过拟合迹象。
残差与误差分布分析:XGBoost残差大多以零为中心,但在高负HoC值处存在大量大的正偏差,表明难以捕捉极端情况,误差分布最宽。MLP残差比XGBoost更紧密聚集,散布适中,无系统趋势。GCN产生比XGBoost和MLP更紧密围绕零的残差分布,仅少数大偏差出现在能量范围低端。NNConv显示最紧密的零附近残差聚类,极端偏差较少,表明在整个能量谱上始终无偏预测,最高保真度地捕捉分子能关系。
误差密度分布:所有模型的误差直方图在零附近尖锐峰化。GNN模型(GCN和NNConv)相比XGBoost和MLP展现出更窄的展宽和更对称的误差分布,XGBoost偶尔出现极端负误差异常值,MLP分布略宽。GCN和NNConv的误差分布近似对称且紧密聚集。
预测与实验性能及误差映射:散点图显示大多数数据点与45°参考线紧密对齐,R
2值从GCN的0.907到MLP的0.942,表明模型能捕捉控制HoC值的关键结构和能量模式。大多数预测绝对误差低于约2000 kJ/mol,较大误差主要出现在HoC范围极端,可能与非常规键合模式、共振稳定化效应或训练集中代表性不足的化学有关。值得注意的是,MLP在表现出较低表征效率的情况下仍优于其他模型,这可能归因于MLP作为通用函数逼近器,在足够隐藏单元、数据和适当正则化下能够合理近似复杂映射。
GHS/CLP分类应用与模糊性评估:以20 kJ/g为阈值,各模型的模糊带(±MAE)分别为:XGBoost ±2.08、MLP ±2.31、GCN ±3.39、NNConv ±2.42 kJ/g。多数数据点位于各自模糊区域之外,表明各模型能可靠分类大部分化合物。XGBoost有77/904测试化合物(约8.52%)位于模糊区域,MLP、GCN和NNConv分别为8.96%、12.61%和9.29%。从混淆矩阵和分类指标看,NNConv总体表现最佳,假阴性最少(准确率0.950,精确率0.946,灵敏度0.993,F1分数0.969);XGBoost假阳性最少;GCN表现相对较弱。
未报道实验HoC化合物的应用:研究人员将最优模型(MLP和NNConv)应用于53种无实验HoC值的化合物,采用蒙特卡洛采样(20000次)计算95%置信区间。MLP预测33种为易燃,20种为边界情况;NNConv预测29种为易燃,24种为边界情况。MLP的SHAP分析表明BertzCT分子复杂度指数和精确分子权重最具影响力,更高结构复杂度与更低预测HoC相关,而精确分子重量增加倾向于提高预测HoC。NNConv的GNN解释器识别出线性富碳链片段对预测HoC有正贡献,而芳香环系统有负贡献。
**讨论与结论总结**
研究人员通过系统对比XGBoost、MLP、GCN和NNConv四种模型在HoC预测中的性能,揭示了计算效率与表征深度之间的明显权衡。描述符模型(特别是MLP和XGBoost)提供更快训练和更低总体测试误差,MLP达到最高预测精度(R
2 = 0.942)。相反,基于图的方法(GCN和NNConv)需要显著更长运行时间,但每轮收敛更快、泛化更强、残差和误差分布分析中稳定性更优。
研究还考察了架构复杂度的影响,揭示紧凑神经网络架构以较小隐藏维度通过有效平衡容量和泛化可以超越更大模型。当扩展至GHS/CLP危险分类时,所有模型均能一致区分易燃和不可燃化合物,模糊带为识别需进一步审查的边界情况提供了系统方法。这种高通量筛选与不确定性感知标记的双重能力,证明了机器学习在监管和安全背景中的实用价值。
总体而言,结果强调基于描述符和基于图的策略对分子性质预测均可行,模型选择取决于速度、精度和可解释性之间期望的平衡。未来工作应探索集成策略和更大数据集,以进一步增强鲁棒性并支持化学风险评估和材料设计中的更广泛应用。研究结论指出,两种方法均可作为有效的高通量筛选工具用于监管应用,而NNConv在分类任务中的最小假阴性率使其在安全关键场景中具有特殊价值。