《Scientific Reports》:A green solvent screening tool for emerging materials via uncertainty aware, transformer enhanced transfer learning
编辑推荐:
摘要:准确的溶解度预测仍是材料科学和可持续化学领域的核心挑战。特别是随着有机和杂化光伏、电池及催化等新兴技术的发展,未来几年溶剂的使用量预计将显著增加。因此,用更绿色的替代品替换现有溶剂至关重要。机器学习可以在此发挥重要作用,然而,关于溶解度关键参数的有限数据
摘要:准确的溶解度预测仍是材料科学和可持续化学领域的核心挑战。特别是随着有机和杂化光伏、电池及催化等新兴技术的发展,未来几年溶剂的使用量预计将显著增加。因此,用更绿色的替代品替换现有溶剂至关重要。机器学习可以在此发挥重要作用,然而,关于溶解度关键参数的有限数据极大地限制了机器学习的效能。在本研究中,研究人员将一个在QM9目标上预训练的基础模型迁移至本应用场景,仅需极少量数据。此外,该流程集成了不确定性量化功能,使用户能够评估预测的可信度。作为基线,研究人员成功预测了已有大量数据库支持的汉森溶解度参数(Hansen solubility parameters)和介电常数(Dielectric Constant)。更重要的是,研究人员在额外目标(如古特曼给体数(Gutmann Donor Number, DN)和受体数(Acceptor Number, AN))上也实现了高模型性能,而这些参数可用的数据极为有限。总体而言,研究人员利用高质量预测将溶解度描述符的数据量扩充了多达两个数量级。为实现有效推广,研究人员部署了一个易于使用、可轻松集成至高通量实验室、并可定制的工具,用于对可能的溶剂替代品进行排序和筛选。最后,研究人员既重新发现了已知的绿色溶剂替代品,也提出了新的候选物,证明了该方法在寻找环境友好型溶剂方面的相关性。
一、研究背景、现存问题与研究动机
溶剂的广泛使用是化学、制药、涂料等行业的核心特征,全球每年消耗超过2000万吨挥发性有机化合物(Volatile Organic Compounds, VOCs)。随着电池、燃料电池和有机/杂化光伏(Photovoltaics, PVs)等新能源技术的产业化推进,溶剂密集型生产将进一步加剧。这些溶剂的环境影响和安全问题日益紧迫,因此,寻找“绿色溶剂”替代品成为可持续发展的关键环节。然而,评估溶剂的绿色性是一个复杂的过程,涉及溶解能力、环境影响、毒性和生命周期等多维度因素。其中,溶解度是最重要的实际性能指标之一。尽管汉森溶解度参数(Hansen solubility parameters, HSPs,包括色散力δd、极性力δp和氢键力δh)被广泛用于预测溶剂-溶质的亲和性,但它无法完全捕捉静电相互作用、离子作用或酸碱相互作用。为此,研究者引入了补充性的溶解度参数,如古特曼给体数(Donor Number, DN)和受体数(Acceptor Number, AN)、卡姆雷特-塔夫脱溶剂显色参数(Kamlet-Taft solvatochromic parameters,包括α、β、π*)以及介电常数(Dielectric Constant, εr)。然而,这些参数的数据丰度差异极大:HSPs和εr拥有数千条记录,而DN、AN、α、β和π*的数据量从几百到几十不等,严重制约了传统机器学习模型的预测能力。因此,本研究旨在开发一种能够在数据稀缺条件下高效预测多种溶解度参数的方法,从而为大规模筛选绿色溶剂替代品提供工具。
二、研究方法与技术路线
为解决上述数据瓶颈,研究人员提出了一种结合迁移学习(Transfer Learning)、分子描述符和不确定性量化的综合机器学习流程。首先,采用预训练的DimeNet(Directional Message Passing Neural Network,定向消息传递神经网络)作为基础模型,该模型已在包含约13.4万个小分子的QM9数据集上预训练,能够提取丰富的分子结构特征。研究人员从DimeNet的倒数第二层提取一个固定大小的特征向量,而非直接使用其最终输出,以获得更高密度的信息。其次,为了融入化学专家知识,研究人员从OCHEM数据库中获取分子描述符(Molecular Descriptors),经过稀疏值过滤、低方差剔除以及与目标相关性筛选后,将其与DimeNet特征向量拼接。对于某些参数,这一组合向量还会通过一个Transformer层进行注意力机制处理,以进一步优化特征表示。最后,所有特征被输入到一个高斯过程(Gaussian Process, GP)回归器中。GP不仅提供了鲁棒的预测值,还输出了预测的不确定性(置信区间),这对于在稀疏数据下防止过拟合以及指导实验设计至关重要。整个流程中,DimeNet的权重保持冻结,仅训练Transformer和GP部分,从而充分利用预训练优势。模型通过最小化负对数似然进行训练,并采用5折或10折交叉验证确保泛化能力。
三、研究结果
3.1 机器学习流程的性能表现
研究人员通过n折交叉验证(大数据集n=5,小数据集n=10)对所有溶解度参数进行了测试。结果显示,模型在所有参数上均表现出色,即使是在数据量极少的参数(如少于50个数据点)上,相对均方根误差(Relative Root Mean Square Error, RRMSE)的平均值也仅为0.47,与大、中等数据集的表现几乎无衰减。这表明迁移学习和基础模型在数据稀缺情况下具有显著优势。消融研究(Ablation Study)进一步证实了各组件的作用:仅使用分子描述符加GP的基线模型平均RRMSE为0.656;仅使用DimeNet输出效果与之相当;但当将DimeNet输出与分子描述符拼接后,性能大幅提升,平均RRMSE降低了至少31%,部分参数改善高达85%。相比之下,从头开始训练DimeNet或使用简单的图神经网络(Graph Neural Network, GNN)在小数据集上均表现失败。Transformer层的加入在大数据集上有一定帮助,但在极小数据集上可能因增加复杂性而产生负面影响。与现有最先进方法相比,该流程不仅在大型数据集上表现优异,更在小型数据集上实现了显著超越。
3.2 面向应用的溶剂替代结果
研究人员将该流程应用于包含5000多个VOCs的CompSol数据库,预测了每个分子的九维溶解度参数向量(δd、δp、δh、εr、DN、AN、α、β、π*)。通过计算加权欧氏距离(公式1),可以对候选溶剂与参考溶剂进行相似性排序。以几种工业常用且受关注的VOCs为例进行定性分析,未经危害筛选时的“Top-1”替代预测结果与化学直觉高度吻合,例如乙醇被预测为甲醇的最佳替代品,2-氯甲苯被预测为氯苯的替代品等。这表明模型捕捉到了分子结构与溶解度行为之间的内在关联。经过去除健康危害(H3xx)和环境危害(H4xx)符号的筛选后,模型仍能推荐出合理的绿色替代品,证明了其在发现环保溶剂方面的有效性。
四、讨论与结论
4.1 讨论
研究人员开发的机器学习流程通过融合预训练基础模型、分子描述符和高斯过程,成功解决了溶解度参数预测中的数据稀缺难题。其核心创新在于:利用迁移学习从大规模量子化学数据中汲取通用化学知识,再通过专家知识编码的描述符进行针对性调整,最后借助GP提供可靠的不确定性估计。这种多源信息融合策略使得模型即使在仅有几十个样本的情况下也能达到与数千样本相当的预测精度,这是传统方法无法实现的。消融研究明确指出,DimeNet与描述符的组合是关键,二者的信息互补性远优于单独使用。此外,不确定性量化功能为用户提供了决策依据:在高置信区域可进行保守选择,而在探索性研究中则可纳入高不确定性但潜在有价值的候选物。最终部署的Streamlit工具允许用户自定义权重、选择不同距离度量(欧氏距离、马氏距离、KL散度)以及启用危害筛选,使其适用于钙钛矿光伏、电池电解质等不同应用场景。
4.2 研究结论
本研究成功开发并验证了一个基于不确定性感知和Transformer增强迁移学习的绿色溶剂筛选工具。该工具能够利用最少量的数据,高精度地预测九种关键的溶解度参数,并将数据覆盖范围扩展至5000多种VOCs。通过严格的交叉验证和消融实验,证明该流程在数据稀疏条件下显著优于传统方法,同时保持了在大数据集上的竞争力。研究人员不仅重新发现了已知的绿色溶剂替代品,还提出了新的候选物。该工具作为一个轻量级、可定制、易集成的应用程序发布,有望为学术界和工业界在寻找环境友好型溶剂方面提供有力支持,助力新兴能源技术的规模化商业应用。