《Sensors》:MHA-PINN: A Novel Physics-Informed Neural Network for Predicting Fiber Dyeability
Feier Zhou,
Yuxiang Liu,
Shuo Yang,
Fan Guo,
Xiaofeng Yuan and
Ruimin Xie
编辑推荐:
纤维染色性能是纺织品质量和附加值的核心指标。实验前对纤维染色性能的准确预测可减少试错方法的浪费和低效率。然而,由于纤维染色性能的数据量有限且机理复杂,迄今为止尚无相关研究。因此,本文提出了一种融合领域知识和过程数据的新型预测模型,称为多头注意力-物理信息神经网
纤维染色性能是纺织品质量和附加值的核心指标。实验前对纤维染色性能的准确预测可减少试错方法的浪费和低效率。然而,由于纤维染色性能的数据量有限且机理复杂,迄今为止尚无相关研究。因此,本文提出了一种融合领域知识和过程数据的新型预测模型,称为多头注意力-物理信息神经网络(MHA-PINN)。在MHA-PINN框架中,首先通过变分自编码器(VAE)扩充有限的实验数据,并对扩充后的样本进行集成特征选择。随后,引入多头注意力层以捕捉样本变量间的相互依赖关系,从而输出代表这些变量加权融合的新特征矩阵。最后,物理信息神经网络模块将染色动力学方程嵌入损失函数中,引导模型收敛至样本预测的准确解。所提出的MHA-PINN的有效性和优越性已在纤维染色性能实验数据集上得到验证。
纤维染色性能是纺织品质量与附加值的核心指标,准确预测可大幅减少传统试错法带来的原料、能源与时间浪费,对推动纺织工业智能化和绿色转型具有重要意义。在聚酯纤维中,聚对苯二甲酸丙二醇酯及其阳离子可染衍生物(CDPTT)因优异综合性能被广泛应用,但现有研究多集中于物理性质(如热力学和流变行为),缺乏对染色性能的预测建模。染色过程涉及染料分子渗透、扩散与吸附等多参数(温度、pH值、染料浓度、时间等)耦合作用,机理复杂;同时,高质量实验数据稀缺(仅40组),传统数值方法(如有限差分法)依赖严格简化且计算成本高,而物理信息神经网络虽能嵌入物理规律减少对数据量的依赖,但现有模型无法有效处理变量间的非线性依赖关系以及数据不足导致的局部最优问题。为此,研究人员提出了一种新型的融合领域知识与过程数据的预测模型——多头注意力-物理信息神经网络(MHA-PINN),并将其应用于CDPTT染色性能预测。该模型在CDPTT实验数据集上验证了有效性,预测精度显著优于人工神经网络、极限学习机、混合损失引导模块回归及符号回归等对比模型,为有限数据下复杂工业过程的智能化预测提供了新思路。该论文发表在《Sensors》上。
关键技术方法包括:① 使用变分自编码器(VAE)将原始20个训练样本扩充至130个,缓解数据稀缺;② 采用集成特征选择(融合线性回归、随机森林和XGBoost三种嵌入式算法,通过平均规则输出综合特征重要性)从原始变量中筛选出染色温度、染料浓度和浴比作为关键输入,排除pH值和时间等冗余变量;③ 引入多头注意力机制(4个注意力头,模型维数d
model=16)捕获变量间的非线性相互依赖关系,输出加权融合特征矩阵;④ 构建物理信息神经网络模块,将准二级染色动力学方程嵌入损失函数作为物理约束,引导模型预测符合染色热力学机理。CDPTT纤维原料由江苏国旺高新纤维有限公司提供,经熔融纺丝制得。
**4.1 消融实验**:为验证MHA-PINN各组成部分的有效性,研究人员设计了消融实验,分别去除多头注意力机制和物理约束得到全连接网络(CN)、多头注意力网络(MHAN)和物理信息神经网络(PINN)作为对比。结果表明,同时包含多头注意力和物理约束的MHA-PINN在各项预测指标上(红色和蓝色染料上染率及K/S值)均取得最低均方根误差(RMSE)和最高决定系数(R
2),证明多头注意力机制和物理约束层对模型性能均有重要贡献。
**4.2 对比实验**:为展示MHA-PINN的优越性,研究人员将其与人工神经网络(ANN)、极限学习机(ELM)、混合损失引导模块回归(ML-MR)和符号回归(SR)四种主流模型进行对比,所有模型均使用相同的四个输入变量(染色温度、染料浓度、时间、浴比)预测四个输出指标。结果显示,MHA-PINN在训练集和测试集上的RMSE和均方误差(MSE)均最低,R
2最高(红色上染率R
2接近1,蓝色上染率R
2略低于SR但其他三个指标均优于SR),预测散点图显示MHA-PINN的预测点最接近理想对角线,整体表现最优。这归因于多头注意力机制捕捉参数间非线性依赖、集成特征选择消除冗余以及物理约束避免非物理解。
**讨论与结论**:本研究提出了一种创新深度学习模型MHA-PINN,通过整合CDPTT染色过程的化学特性与染色动力学原理,实现了在有限数据下对CDPTT染色性能的准确预测。实验结果表明,物理模型与数据驱动学习的结合能够显著提升预测精度。在CDPTT染色性能预测中,MHA-PINN的RMSE为0.8411,优于基本人工神经网络的1.2308、混合损失引导模块回归的0.9171和极限学习机的1.1959。然而,当染色条件接近极端状态(如温度超过120°C或pH超出4–5范围)时,MHA-PINN的预测精度下降,误差增大。解决该问题对于提升模型在所有条件下(尤其是极端条件)的预测精度至关重要。未来研究应聚焦于优化MHA-PINN架构以增强其在极端染色场景下的预测能力,从而进一步拓展模型的工业适用性和可靠性。