《Engineered Regeneration》:Attention-based multi-head feature-fusion network: A generalised method for hot deformation behaviour prediction in low-alloy steels
编辑推荐:
建模低合金钢的热变形对于优化加工效率和降低成本至关重要。现有方法缺乏泛化能力,因为它们主要关注单一钢种,忽略了化学成分。为了解决这一问题,研究人员建立了一个包含58种不同低合金钢的数据集,并提出了一种基于注意力的多头特征融合网络(Attention-Based
建模低合金钢的热变形对于优化加工效率和降低成本至关重要。现有方法缺乏泛化能力,因为它们主要关注单一钢种,忽略了化学成分。为了解决这一问题,研究人员建立了一个包含58种不同低合金钢的数据集,并提出了一种基于注意力的多头特征融合网络(Attention-Based Multi-Head Feature Fusion Network, AMHFnet)。AMHFnet使用多头残差模块和头加权机制,自适应学习化学成分和加工变量的高维表示,然后通过特征过滤和重复步骤决策机制进行融合和处理,以预测热变形响应。在10折交叉验证中,与现有的基于决策树的模型和最先进的深度学习模型相比,该网络表现出优越的准确性和泛化能力。消融研究证明了网络各个组件的有效性。对碳元素影响的研究表明,AMHFnet能够可靠地反映元素对热变形行为的影响,进一步验证了其可靠性和适用性。该模型成功捕捉了大多数成分的加工硬化行为和动态再结晶。通过准确预测不同低合金钢的热变形行为,这项工作可以简化合金成分设计过程并针对性地进行实验测试。
低合金钢因其优异的力学性能广泛应用于汽车车身结构、航空航天部件和机械制造等领域。热变形行为建模对于优化热加工参数(如轧制、锻造和挤压)至关重要,传统方法包括现象学模型(如Arrhenius定律、Johnson-Cook模型)和基于物理的模型(如Zerilli-Armstrong模型)。然而,这些方法存在显著局限性:现象学模型忽略了加工参数与变形机制间的复杂关系,无法预测完整变形响应;物理模型虽能捕捉微观结构依赖的塑性变形,但其常数依赖于特定材料,且外推能力有限,仅限于狭窄的工艺参数和合金成分范围。现有数据驱动方法(如人工神经网络ANN、支持向量机SVM、随机森林RF)虽能处理非线性关系,但同样缺乏泛化性,通常针对单一钢种,忽略了化学成分的影响,导致建模成本高昂且开发周期长。因此,迫切需要一种能够跨多种低合金钢成分预测热变形行为的通用方法。
针对这一空白,研究人员(Lichao Yang等)提出了一种基于注意力的多头特征融合网络(Attention-Based Multi-Head Feature Fusion Network, AMHFnet),并建立了一个包含58种不同低合金钢的热变形数据集。该数据集来源于Scopus数据库中检索的56篇文献,仅包含高温压缩试验数据,共17444个采样点,输入特征包括14种合金元素(C、Mn、Si、Cr、Cu、Mo、Ni、Nb、Ti、V、Al、P、S、N)和3个物理条件(温度、应变率、真应变),输出为真应力。研究表明,AMHFnet在10折交叉验证中展现出优于传统决策树模型(如CatBoost、LightGBM、XGBoost)和最先进深度学习模型(如TabNet、TabPFN)的预测准确性和泛化能力。消融研究验证了多头残差编码器、头加权机制和特征融合模块的有效性。SHAP(SHapley Additive ExPlanations)分析揭示了应变率和温度是最重要的特征,且合金元素的影响符合物理冶金学规律。碳案例分析进一步证实了模型对元素效应的可靠反映。该模型成功捕捉了大多数低合金钢的加工硬化和动态恢复行为,但在动态再结晶(DRX)阶段存在挑战。这项工作发表在《Engineered Regeneration》。
关键技术方法方面,研究人员采用以下主要方法:首先,从Scopus数据库中检索并筛选出56篇文献,提取58种低合金钢的高温压缩试验数据,构建数据集(样本队列来源:文献数据)。其次,提出AMHFnet,其核心包括:多头残差编码器(Multi-Head Residual Encoder),通过多组独立的全连接残差网络学习高维表示;头加权机制(Head Weighting),利用自适应平均池化和全连接层对多头表示进行加权;特征融合模块(Feature Fusion),通过1D卷积集成多头特征;特征选择与处理部分采用基于TabNet的注意力变换器和特征变换器,通过特征过滤和重复步骤决策机制实现预测。此外,对化学特征采用主成分分析(PCA)降维(从14维降至8维),对物理特征进行Z-score标准化。模型训练使用Adam优化器,初始学习率2×10
-3,共150个epoch。
研究结果部分主要包括以下内容:
**3.1 训练与模型对比**:通过10折交叉验证,AMHFnet在R
2(0.915)、MAE(11.506)和RMSE(15.346)上均优于所有对比模型(包括CatBoost、ExtraTreeMSE、LightGBM、TabNet、TabPFN等),且标准差最低,表明其出色的泛化能力和鲁棒性。模型参数仅0.09M,计算复杂度1.52 MFLOPs,在性能和效率上平衡良好。
**3.2 消融研究**:对四个主要模块(特征处理FP、多头残差编码器MH、头加权HW、特征融合FF)进行消融实验。仅使用FP模块时RMSE为20.553;加入MH后RMSE降至19.089,标准差降低34.67%;再加入HW使RMSE进一步降至16.188,标准差降低71.10%;加入FF后RMSE降至15.993,标准差降低60.59%。完整AMHFnet相比基线FP,准确率提升25.34%,鲁棒性提升62.17%。早期融合版本(单流)的RMSE为17.799,标准差4.276,表明分离学习化学和物理特征后再融合更有效。
**3.3 模型预测性能**:残差图显示预测应力集中在±20 MPa范围内,确认了准确性。模型在大多数加工条件下能良好拟合工作硬化和动态恢复行为,但在中等温度(如1173 K)和低应变率下,当动态再结晶发生时,预测偏差较大,表明模型对DRX的捕捉能力有限。
讨论部分总结如下:通过SHAP分析,应变率和温度是最重要的影响特征,高应变率或低温导致应变硬化主导。合金元素中,铬和钼对热强度影响较大,碳的作用在高温下减弱。碳依赖性分析显示,模型在加工硬化和动态恢复阶段表现良好,但在DRX阶段因缺乏微观结构信息(如再结晶晶粒尺寸、体积分数)而难以准确预测。研究结论翻译如下:本研究提出了一种新颖的AMHFnet,能够预测低合金钢的高温变形行为。与传统方法不同,该模型通过显式包含合金元素,量化了成分对流动应力、应变硬化和动态软化的贡献,并作为温度和应变率的函数。专门设计的模块提供了捕捉复杂依赖性和增强特征多样性的能力。通过集成加权特征图,模型有效学习了物理特征和化学成分的高维表示,从而更准确地预测变形行为。研究人员为此建立了包含58种低合金钢的高温变形数据集。通过与常用和最先进方法的比较,该网络在10折交叉验证中展现出低方差和高预测精度,具有较强的鲁棒性和泛化能力。对不同低合金钢的预测应力-应变曲线综合分析表明,模型能捕捉加工硬化和动态恢复期间的变形行为,但在准确建模动态再结晶过程方面面临挑战。基于SHAP的特征重要性可视化结合元素特性分析,验证了模型预测的可解释性。此外,流动应力预测与合金元素(碳)之间的依赖关系进一步展示了模型决策过程的可靠性。准确预测热变形行为为先进钢铁制造中热成形工艺的快速设计和优化提供了强大工具。同时,实验结果表明,AMHFnet不仅预测了不同低合金钢的变形响应,还捕捉了成分变化对这些响应的影响,为化学组分对低合金钢的影响提供了稳健的预测框架,以指导合金成分设计中的实验,显著缩短开发周期。消融研究表明,在融合前分别学习加工变量和合金化学成分的表示,比早期融合提高了准确性和稳定性。分离学习减少了特征干扰并提高了表示效率。研究结果还强调,准确捕捉动态再结晶过程中的行为仍是当前模型的主要局限。未来工作将整合微观结构信息(如再结晶晶粒尺寸、晶体学织构和再结晶体积分数)到现有框架中,以实现更准确和通用的预测。此外,通过持续数据采集或相关材料系统的知识迁移来扩展数据集,有助于缓解分布偏移,进一步提高低合金钢热变形行为的预测能力。