《Computational Materials Science》:Orbit weight sharing via group-theoretic orbit decomposition for crystal property prediction
编辑推荐:
•以立方体中心为作用中心的动作在 4 × 4 × 4 网格上产生四个有效的体素轨道。•元素–标签直方图揭示了轨道条件化 MLP 的表示限制。•Cube4 的平均绝对误差为 0.2000,而共享模型的为 0.1892 eV/atom。•匹配的几何与晶体学对照实验将标签与容量区分
- •
以立方体中心为作用中心的动作在 4 × 4 × 4 网格上产生四个有效的体素轨道。
- •
元素–标签直方图揭示了轨道条件化 MLP 的表示限制。
- •
Cube4 的平均绝对误差为 0.2000,而共享模型的为 0.1892 eV/atom。
- •
匹配的几何与晶体学对照实验将标签与容量区分开来。
- •
逐晶体投影使诊断性 MAE 从 0.1917 升至 0.9655 eV/atom。
引言
从结构预测晶体性质是计算材料科学中的核心任务,在材料发现中有应用 [1]、[2]。传统方法——密度泛函理论(DFT)计算——提供第一性原理精度,但无法很好地扩展到可能材料的巨大组合空间 [2]。这促使了对机器学习(ML)方法的大量研究,该方法可以以分之一的计算成本近似 DFT 级别的预测 [3]、[4]。其准确性取决于输入表示和评估协议,因此在进行受控比较以将增益归于特定物理归纳偏置时至关重要。
诸如晶体图卷积神经网络(CGCNN)[5]、MatErials 图网络(MEGNet)[6] 和 SchNet [7] 等模型构建晶体图,其中节点表示原子,边编码原子间距。连接原子之间的消息传递捕获局部化学环境,全局池化产生结构级预测。像 M3GNet [8] 和 CHGNet [9] 这样的通用原子间势通过材料项目数据库上的广泛预训练,将这些方法扩展到周期表的大部分内容 [1]。这些模型为本文具有离散标签且无显式消息传递的逐位点网络提供了背景;不同数据集和协议下发布的误差无法直接比较。
图模型通过邻居选择和消息传递来编码局部几何,而我们的无图设计在 MLP 中测试了更窄的标签条件化归纳偏置。避免图构造是一种架构上的区别;如果没有匹配的最终测量,它并不能确立更低的总运行时间或内存使用。近期关于孪晶界、合金耐磨性和机器学习力场的工作展示了晶体材料建模的广度 [10]、[11]、[12];这里的具体问题是,在匹配的对照条件下,离散位点标签在数学上是否有效并添加预测信息。
晶体学位点轨道由特定结构中通过物种保持的空间群操作相关联的位点组成。Wyckoff 位置在指定的空间群设置中对称相关的位点进行分类;跨不同空间群共享 Wyckoff 字母并不能确立等价性。我们的立方体网格轨道提供了一个共同的几何约定。它们不是一般晶体的空间群 [13]、[14]。
核心理念很简单:相同轨道,共享参数;不同轨道,独立参数。这一原则用 K 个轨道特定的权重矩阵集合取代了标准线性层的统一权重矩阵,其中 K 由所选群作用的轨道结构决定。对于修正后的有限立方体作用,K = 4。当 K = 1 时(所有位置在单个轨道中),该层简化为标准统一权重共享。当 K = N 时(每个位置在自己的轨道中),它恢复逐位点独立性。增加 K 会增加可训练变换的数量;它并不相对于 K = 1 增加参数共享。因此,我们测试立方体导出的赋值是否贡献了超出额外容量和具有相同四个槽位的其他赋值的信息。
这一概念借鉴了群等变卷积网络(G-CNN)[15] 的启发,这些网络证明了对称感知架构可以更高效地从具有对称结构的数据中学习。它也与 Deep Sets [16]、[17] 中的权重绑定原则有关,其中通过在集合的所有元素之间共享参数来实现置换不变性。我们的标签条件化 MLP 仍然兼容标准 MLP 的训练和部署管道,但并不自动对输入晶体的空间群等变。其原子排序不变性必须在原始结构级别进行检查,其对单元原点和设置的敏感性仍然是一个局限。
存档的队列支持九个匹配或明确表征的模型,包括一种新的四槽位稳定子阶编码,Sym4。这一对照在晶体间赋予一致的物理意义,同时在可训练参数上与 Cube4 完全匹配。我们还研究了结构描述符、晶系分层、对称分层加权、空间群留一、原点敏感性和计算成本。补充模型规则在其运行前已冻结,尽管该队列在修订期间已经被检查过;这些实验不是未触及的外部复制。
本研究保留了其原始设计问题,同时区分了三个结果。修正后的有限立方体构造在数学上是有效的。其元素输入网络仅依赖于归一化的元素–标签直方图,这识别出一个精确的表示限制。在指定的对照条件下,Cube4 未能展示出优于共享变换或匹配几何划分的预测改进。这些结果确立了如何测试所提出的参数化而不将有效的群结构与实证预测收益混淆。补充图 S1 总结了修正后的工作流程和选定的形成能误差。
章节摘要
有限立方体轨道构造的审计与修正
对于折叠的分数坐标 f ∈ [0,1)3,体素索引为 c = floor(4f) ∈ {0,1,2,3}3;边界点属于上半开区间体素。映射到同一体素的两个原子仍然是不同的特征向量,但获得相同的标签。映射使用坐标而不是原子列表的顺序。此有限体素划分与晶体的实际空间群的物种保持轨道是分开的。
存档的实现将原点中心的整数
讨论
存档的研究报告了 0.9190 与 0.9516 eV/atom,为早期实现的描述性 3.4% 差异。存档的公共源代码使用逐晶体随机投影、原子索引标签、未掩码池化、全队列目标缩放和基于测试的 epoch 选择。其返回的误差是在归一化目标单位中,因此发布的物理单位归因不能仅从该函数中验证。这些问题阻止了将历史对比作为修正的证据
数据获取与处理
本地缓存的 Materials Project 衍生队列包含 2741 个晶体、82 个元素和 2163 个简化组成族,具有 8–40 个位点,存档的高于凸包能阈值为 0.2 eV/atom。源检查显示对称性阈值至少包括恒等在内的两个总操作,而不是恒等之外的两个操作。修正后的映射不需要此过滤器。使用 spglib 2.7.0 在 10?3 ? 处重新计算对称性得到 160 个空间群;133 条记录在群中有差异
CRediT 作者贡献声明
梁乃隆:写作 – 原始草稿,概念化。马金奎:写作 – 审阅与编辑,验证,监督。
资助
本工作由广东省大学生科技创业训练计划支持(项目编号:S202510580069)。
利益冲突声明
作者声明他们不存在已知的竞争性财务利益或个人关系,这些利益或关系可能已经影响本论文中报告的工作。
梁乃隆 | 马金奎