时态知识追踪中的动态二部图神经网络与负采样 (Dynamic Bipartite Graph Neural Network with Negative Sampling for Temporal Knowledge Tracing)

《Algorithms》:Temporal Graph Neural Networks for Modeling Student Knowledge Evolution and Predicting Learning Trajectories Deborah Olaniyan and Ruth Wario

【字体: 大 中 小 】 时间:2026年04月03日 来源:Algorithms 2.1

编辑推荐:

  摘要—研究人员提出一种基于动态二部图神经网络(Dynamic Bipartite Graph Neural Network, D-BGNN)并结合负采样(Negative Sampling)的时态知识追踪(Temporal Knowledge Tracing,

  
摘要—研究人员提出一种基于动态二部图神经网络(Dynamic Bipartite Graph Neural Network, D-BGNN)并结合负采样(Negative Sampling)的时态知识追踪(Temporal Knowledge Tracing, TKT)模型。该模型将学生–知识点交互建模为随时间演化的二部图Gt=(Vt, Et),其中顶点集Vt=S∪K(学生节点与技能/Knowledge Component节点),边集Et?S×K为带时间戳的交互记录。为捕捉时间依赖性与长期记忆衰减,模型引入时态编码(Temporal Encoding)模块计算当前交互与历史交互的时间间隔嵌入,采用带时态注意力(Temporal Attention)的消息传递机制聚合邻域信息,并使用门控循环单元(Gated Recurrent Unit, GRU)更新节点嵌入以捕获长期依赖。对于每条正样本边(si, kj, t),研究人员从未观测交互中采样Krandom条负边(Negative Edges)参与训练,通过二元交叉熵(Binary Cross-Entropy, BCE)损失优化预测学生对下一时刻知识点掌握概率?i,j,t+1=σ(W0(xi(t+1)⊙xj(t+1))+b0)。实验在真实教育数据集上进行,采用AUC(Area Under the ROC Curve)评估性能。结果表明该动态图方法与负采样策略能有效提升知识追踪的预测精度与可解释性。
论文解读:时态知识追踪中的动态二部图神经网络与负采样
研究背景与动机
传统知识追踪(Knowledge Tracing, KT)方法如贝叶斯知识追踪(Bayesian Knowledge Tracing, BKT)和深度知识追踪(Deep Knowledge Tracing, DKT)多将学生与知识点的交互视为独立序列或静态图,未能充分建模交互间的时间演化关系及学生–知识点间的二部拓扑结构。现有图知识追踪(Graph-based Knowledge Tracing, GKT)方法常忽略边的时序性和因果一致性约束,且正样本稀疏导致表示学习不充分。为克服上述局限,研究人员开展了基于动态二部图神经网络(Dynamic Bipartite Graph Neural Network)结合负采样的时态知识追踪研究,旨在同时捕获时间依赖、长期记忆效应及图结构信息,发表于《Algorithms》。
关键技术方法
研究构建动态二部图Gt=(Vt, Et),Vt=学生集S∪技能集K,Et?S×K为时间≤t的交互边。学生节点特征含各技能累计正确率、总尝试次数、距上次交互时长;技能节点含全局正确率与尝试频次;边特征含正确性、尝试次数、提示数、时间间隔。按时间排序划分mini-batch,对每个正边(si, kj, t)采样Krandom条未观测负边。计算时态编码(Temporal Encoding)反映时间间隔,消息函数mi,j,t=?e(xi(t), xj(t), ei,j,t)用2层MLP(Multilayer Perceptron),邻域聚合采用4头时态注意力(Temporal Attention),节点更新用GRU捕获长期依赖。预测?i,j,t+1=σ(W0(xi(t+1)⊙xj(t+1))+b0),损失为BCE加可选正则项,Adam优化器训练,余弦学习率衰减,早停依据验证集AUC。
研究结果
3.4.2. Graph Formulation(图构建)
研究人员将交互历史建模为动态二部图Gt=(Vt, Et),邻接矩阵At[i,j]=1当且仅当学生si在时间t前与技能kj有交互,否则为0。施加因果约束——边仅存在于记录时间戳或之前,保证学习序列时间一致。结论:该 formulation 明确分离了学生与技能异构节点,保留了时序演化特性。
Negative Sampling(负采样)
对每个batch内正样本边,从无交互记录的学生–技能对中均匀随机采样Krandom条作为负边参与损失计算。结论:引入负采样缓解了正样本稀疏导致的过拟合,增强了嵌入空间的判别力。
Temporal Encoding(时态编码)
基于当前交互时间与各历史邻域交互时间之差生成固定或可学习的时间间隔嵌入向量。结论:使消息传递能区分近期与久远交互,模拟遗忘曲线效应。
Message Passing(消息传递)
边消息mi,j,t=?e(xi(t), xj(t), ei,j,t, Δt)经2层MLP计算;聚合时对源节点各历史邻居按时态注意力加权求和(4头),关注近期相关交互。结论:时态注意力使模型自适应聚焦对当前预测重要的历史行为。
Node Update(节点更新)
学生与技能节点嵌入用GRU融合自身上一时刻状态与聚合后的传入消息:Xi(t+1)=GRU(Xi(t), agg_msg)。结论:GRU有效捕获学生在知识点上的长期知识积累与消退过程。
Prediction(预测)
下一时间步正确作答概率?i,j,t+1=σ(W0(xi(t+1)⊙xj(t+1))+b0),内积或Hadamard积度量匹配度。结论:双线性解码适合二部图场景下的互动概率估计。
Loss Calculation(损失计算)
总损失Ltotal=LBCE+λ‖?‖2(如有正则),二元交叉熵覆盖正负样本。结论:标准BCE配合负采样使梯度稳定,可选L2正则防过拟合。
Backpropagation(反向传播)
所有可学习参数(消息MLP、注意力、GRU、输出层、时态编码)经Adam优化器更新。结论:端到端训练使各模块协同优化。
讨论与结论
研究人员得出结论:将知识追踪形式化为动态二部图并引入时态编码、时态注意力消息传递与GRU节点更新,配合负采样策略,能够同时建模学生认知状态的时序演化与 student–skill 二部拓扑关系。该方法在公开教育数据集上的AUC优于DKT、BKT及静态GKT变体,证明了动态图结构与负采样对知识追踪性能提升的有效性。模型具有良好的可解释性——注意力权重可揭示影响当前预测的关键历史交互。未来工作可考虑自适应负采样策略与多尺度时间编码进一步改进。论文确认动态图神经网络结合负采样是时态知识追踪问题的有效建模范式。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号