材料科学中的大语言模型:机理理解、结构-性能推理与未来机遇
《Progress in Materials Science》:Large language models in materials science: mechanistic understanding, structure–property reasoning and future opportunities
【字体:
大
中
小
】
时间:2026年09月30日
来源:Progress in Materials Science 42.9
编辑推荐:
摘要
材料科学受成分、加工工艺、结构和性能之间复杂的高维关系支配,由此产生了庞大的设计空间,使得材料开发效率低下。大型语言模型(LLMs)正作为通过科学知识处理和推理来驾驭这种复杂性的强大工具而崭露头角。然而,将LLMs应用于材料科学需要的不仅仅是将通用人工智能方法迁移到新
摘要
材料科学受成分、加工工艺、结构和性能之间复杂的高维关系支配,由此产生了庞大的设计空间,使得材料开发效率低下。大型语言模型(LLMs)正作为通过科学知识处理和推理来驾驭这种复杂性的强大工具而崭露头角。然而,将LLMs应用于材料科学需要的不仅仅是将通用人工智能方法迁移到新领域;它要求评估这些模型是否能够支持具有物理基础的、机制上有意义的以及特定于材料的推理。在此,我们首先介绍LLMs的基本原理及其面向下游科学任务的优化策略。随后,我们讨论了材料语言处理作为结构化材料知识并实现下游任务的基础。在此基础上,我们回顾了LLMs在机制理解和结构-性能关系中的新兴作用,包括性能预测、知识发现和逆向设计。我们进一步总结了特定于材料领域的LLMs、基于LLM的智能体、自主实验室以及材料科学基准测试。最后,我们讨论了当前局限性以及面向机制感知的领域专用模型、多模态科学学习、现实世界评估和集成AI系统的未来机遇。最终,LLMs在材料科学中的未来影响将取决于它们能否朝着具有物理基础的推理系统演进,以服务于科学材料发现。
引言
材料科学是一个多学科领域,对先进技术的发展至关重要[1]、[2]、[3]。随着对高性能、智能材料需求的增加,该领域面临传统试错方法的局限性以及日益复杂化的材料设计空间[4]、[5]、[6]。在此背景下,材料科学界正日益采用前沿的计算策略[7]、[8]、[9]、[10]。与此同时,人工智能(AI)的同步发展——特别是自然语言处理(NLP)和深度学习架构方面的变革性突破——正在重塑材料科学的基础研究方法和创新路径[11]、[12]、[13]、[14]、[15]、[16]。
作为计算机科学的关键子领域,NLP致力于开发能够理解、生成和操作自然语言数据的计算系统[4]、[17]、[18]。NLP在材料科学中的早期应用已在从科学文献中自动化提取知识方面展现了巨大潜力[19]、[20]、[21]、[22]。NLP的演进历程从早期基于规则的系统发展到由神经网络驱动的表示学习框架[23]、[24]、[25]。例如,Sasidhar等人开发了一种自动化NLP框架,结合深度神经网络从腐蚀文献中提取合金加工历史和电化学测试方法的文本描述,在点蚀电位预测精度方面取得了比传统仅使用数值输入的模型更为显著的改进[26]。类似地,Tshitoyan等人采用了在330万篇材料科学摘要上训练的无监督词嵌入技术(Word2vec)来捕获潜在的材料知识,成功编码了周期表结构和结构-性能关系等复杂概念,而无需任何显式的化学监督[27]。
神经架构的出现,特别是Transformer架构[28]的引入,开启了一个全新的计算范式,促使大型语言模型(LLMs)的诞生,它们在语言理解和生成方面达到了前所未有的性能水平[29]、[30]、[31]。当代LLMs,如OpenAI的GPT系列[32]、[33]、[34]、DeepSeek[35]、Google的BERT[36]和T5(Text-to-Text Transfer Transformer)[37],代表了NLP的重大飞跃。通过在PB级文本语料库上进行训练,这些LLMs发展出对语言结构、语义关系和上下文细微差别的深层表示[38]、[39],在结构化数据生成、问答和推理测试等任务中取得了卓越的性能[40]。与传统NLP技术和机器学习(ML)方法不同,LLMs利用其大规模参数和大量训练数据来执行高度准确的任务。此外,LLMs利用迁移学习,使其能够应用于各种任务领域[41]、[42]、[43]。超越语言理解和生成之外,LLMs的推理能力已成为使其区别于传统文本挖掘工具的决定性特征。这种能力源于大规模预训练、指令微调和对齐,通过这些过程,模型学会整合分布式知识、遵循复杂指令并在不同语境下执行多步推理。特别是,上下文学习和思维链(CoT)提示使LLMs能够分解复杂问题为中间步骤,跨领域连接概念并生成合理的推理路径。虽然这种推理并不保证物理正确性,但它使LLMs能够超越提取现有信息,转向支持科学研究的假设生成、机制分析和决策制定。这些能力已将LLMs的影响远远扩展到传统NLP应用之外,使其成为加速科学研究和发现的强大工具[44]、[45]、[46]、[47]、[48]。
目前,LLMs已被广泛应用于数学、物理学和生物学等领域[49]、[50]、[51]、[52]、[53]。在材料科学领域,LLMs在解决实际挑战方面变得越来越重要[54]。超越传统信息提取,LLMs能够实现智能文献综合、假设生成、合成规划、性能预测和逆向设计[51]、[52]、[55]。此外,当与机器人平台和实验数据库集成时,基于LLM的智能体正在为能够自主进行材料发现的自主实验室铺平道路[56]。
图1展示了语言方法在材料科学中的发展历程,可分为四个关键阶段,展现出研究规模和应用范围随时间持续增长和显著扩展的总体趋势。在这一四阶段演进过程中,可以观察到明确的范式划分:第一阶段属于预训练语言模型时代,而自第二阶段起,该领域全面进入LLMs时代。第一阶段跨越2019年至2022年,是材料语言处理阶段。该阶段属于预训练语言模型时代,侧重于通过文本表示和语义嵌入来提取结构化领域知识,代表性成果包括Mat2Vec[27]和MatBERT[19]。研究人员利用无监督预训练来捕获文献中嵌入的上下文语义,并应用微调来完成实体识别和基本性能预测等基础任务。第二阶段跨越2022年至2023年,是指令微调领域助手阶段。随着微调技术的引入,研究范式正式进入LLMs时代,代表性成果包括LLM-NERRE[57]、HoneyBee[58]和MatChat[59]。通过指令微调,该阶段的模型获得了强大的任务理解和人机交互能力,从早期信息提取工具演变为能够进行合成路线预测和特定任务问答的领域专用助手。第三阶段跨越2023年至2025年,是多智能体闭环发现阶段。在智能体协作机制的推动下,LLMs的应用范式从单模型交互推进到多智能体协调,代表性成果包括A-Lab[56]、ChatMOF[60]、SciAgents[61]和LLaMP[39]。多个专业化智能体通过分工与协作,实现了涵盖文献检索、逻辑推理和路线规划的闭环科学发现。第四阶段从2025年至今,是端到端自主平台阶段。随着全流程自主技术的成熟,LLMs已与自动化机器人和软硬件实验平台深度融合,代表性成果包括MASTER[62]、Robotic AI Chemist[63]、MatSciAgent[64]、Coscientist[65]和LLEMA[66]。在这一阶段,LLMs不再仅仅作为推理核心,而是直接驱动物理实验,在从假设生成、路线规划到自动化实验验证的全链条上实现完全自主的科学发现。总体而言,随着阶段的推进,代表性成果的数量和范围持续增加,既反映了该领域研究兴趣的快速增长,也反映了LLMs在材料科学中角色的扩展,已从早期的单一知识编码任务向涵盖推理、协作和自主实验执行的综合能力系统演变。
这些进展标志着从基于语言的信息处理向材料研究中的科学推理的重要转变。材料科学从根本上依赖于理解成分和加工历史如何支配多尺度结构演化,并最终决定宏观性能。通过整合这些相互关联维度上的知识,LLMs提供了支持机制解释、假设生成、性能预测和逆向设计的新机遇。它们新涌现的推理能力因此将其作用扩展到超越文献挖掘和结构化数据提取的范畴,使其能够更直接地参与科学分析和材料发现。然而,实现这一潜力需要更强的物理基础、对竞争机制更可靠的区分能力以及在既定数据分布之外的稳健泛化能力。
为应对这一关键转折点,本综述提供了一个以材料为中心且带有批判性视角的概述,总结LLMs应用于材料科学的最新进展(图2)。我们首先简要总结LLMs的方法论基础,包括Transformer架构、代表性基础模型和优化方法。随后,我们介绍材料语言处理,涵盖文本分类、信息提取和数据挖掘,将非结构化文献转化为结构化材料知识,为下游任务奠定基础。在此基础上,我们围绕材料研究的两个核心主题组织讨论:机制理解和加工-结构-性能关系。对于第一个主题,我们考察LLMs在晶体结构生成与表示、热力学稳定性与相平衡以及微观结构演化与相变动力学方面的作用。该分析评估LLMs是否能够超越统计关联,转向物理一致性和机制上有意义的推理。对于第二个主题,我们讨论LLMs如何促进力学和物理性能预测、知识发现与理论框架以及材料逆向设计。然后我们总结材料科学领域专用LLMs,以及基于LLM的智能体和自主实验室如何将这些模型扩展至闭环发现。随后回顾LLMs在材料科学中的基准测试,包括其在可解释材料研究中的作用。最后,我们批判性地评估当前局限性,包括物理化学和热力学不一致性、加工-结构-性能数据稀疏、黑箱推理以及缺乏充分的材料特定基准测试,并概述未来方向,包括机制感知的领域专用LLMs、多模态材料学习、实际约束下的现实世界材料开发以及LLMs与传统ML模型的协同集成。
章节摘要
Transformer架构
如图3所示,Transformer架构用自注意力机制取代了顺序计算,使所有令牌能够并行处理,从而实现长程依赖关系的高效建模。将位置编码(绝对或相对)添加到输入嵌入中,使模型能够识别序列中令牌的顺序。该架构通常采用编码器-解码器设计:编码器通过多头
LLMs应用于材料语言处理
大量材料相关知识嵌入在科学文献、实验数据、研究报告、专利和其他资源中。然而,这些信息大多以非结构化形式存储,传统的分析和提取这些见解的人工方法效率低下、成本高昂,且容易受到研究者偏差的影响。为解决这一问题,提出了MLP的概念作为一种NLP方法。MLP的核心目标是利用LLMs和数据分析将
LLMs在材料科学中的机制理解
晶体结构、热力学、微观结构演化和力学及物理性能构成了材料科学的基础支柱,每一个都支撑着各类材料在不同应用中的理性设计与优化。虽然前面的章节从任务类型和方法策略的角度考察了LLMs,本章则采用一个互补的视角,围绕这些核心科学领域组织讨论。对于每一个LLMs在材料科学中的加工-结构-性能关系
材料性能——涵盖力学、物理和功能行为——最终由材料的底层结构特征决定,从原子键合和晶体对称性到微观结构拓扑和缺陷构型。本章考察了LLMs如何被应用于探索和挖掘这些加工-结构-性能关系,围绕四个相互关联的主题组织讨论:力学性能预测与合金设计、物理性能
材料科学的领域专用LLMs
材料科学中的领域专用LLMs已从基于异构材料语料库训练的广泛适用模型演变为针对特定材料类别和科学任务的专用模型。通用材料领域模型提供了可迁移的语言表示和知识提取、问答与科学推理的通用基础。然而,不同的材料系统涉及不同的结构表示、控制机制和加工
基于LLM的智能体在材料科学中的应用
基于LLM的智能体将生成模型从被动响应系统扩展为具备感知、规划、决策制定和与外部环境交互能力的计算框架。智能体通常以LLM作为其认知核心,同时额外的组件如多模态感知、记忆、规划模块和外部工具扩展了其观测和行动空间。这些能力使智能体能够将复杂目标分解为顺序任务,整合
LLMs在材料科学中的基准测试
基准测试是设计用来测量和比较系统、模型或算法性能的标准测试和评估方案[156]、[157]。
对于大语言模型(LLMs),基准测试通常用于评估预测模型的准确性、计算效率、可靠性和泛化能力[158],[159]。此外,基准测试的主要优势在于它提供了一个客观的评估标准,使得不同的技术和方法能够在相同的条件下进行比较。
**大语言模型在材料科学中的挑战与局限性**
尽管大语言模型在材料推理和设计方面展现了日益增长的潜力,但其在材料科学中的可靠应用仍面临众多局限性和关键挑战。本节将讨论将大语言模型应用于材料科学时的局限性与不足。
**大语言模型在材料科学中的机遇与展望**
尽管大语言模型已经取得了显著进展,但其在材料科学中的应用仍处于早期发展阶段。因此,基于已发表的文献和已识别的挑战,优化大语言模型以应用于材料科学的方向和趋势可以总结为以下几个方面。
**结论**
大语言模型正在重塑材料知识的获取、组织和应用方式。材料语言处理通过将碎片化的文献、数据库和实验记录转化为结构化的知识,为下游研究提供了重要的基础。在此基础上,大语言模型正越来越多地被探索应用于机理理解、加工–结构–性能推理、性能预测、知识发现和逆设计。针对特定领域定制的专业模型...
**CRediT作者贡献声明**
谢昊洋:撰写——初稿、项目管理、方法论、数据整理。阎梓妮:撰写——初稿、可视化、软件。罗丹雨:调查研究、形式分析。陈璐:资源、项目管理。余凯:方法论、概念构思。惠健:资源、方法论。Turab Lookman:撰写——审阅与编辑。饶子源:调查研究、形式分析、数据整理、概念构思。任杨:资金获取、概念构思。曾晓琴:...
**利益冲突声明**
作者声明,他们没有任何已知的竞争性经济利益或个人关系可能影响本文所述工作。
**致谢**
作者感谢国家自然科学基金(资助号:52425101、52127801、525B2001)、国家重点研发计划(资助号:2025ZD0620200)、上海市科学技术委员会(资助号:25CL2902200)、上海交通大学科技创新专项基金(资助号:25X010202846)以及上海齐元创新基金(QY2025-QN-SJTU-006)提供的资金支持。
谢昊洋 | 阎梓妮 | 罗丹雨 | 陈璐 | 余凯 | 惠健 | Turab Lookman | 饶子源 | 任杨 | 曾晓琴
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号