混合Transformer-XGBoost模型在开放大学学生退学预警中的评估与贡献

《Digital》:Early Prediction of Academic Outcomes in Virtual Learning Environments via a Hybrid Transformer–XGBoost Model

【字体: 大 中 小 】 时间:2026年10月22日 来源:Digital CS4.8

编辑推荐:

   摘要

  

摘要

预警系统旨在及时识别有失败或退学风险的学生以便采取行动。我们针对开放大学学习分析数据集的两个模块,评估了一种混合模型:使用Transformer编码器对前十周的虚拟学习环境活动进行摘要,并用XGBoost将该表示与人口统计学和早期评估特征相结合。预处理、编码器训练和调优均嵌套在以学生为单位的交叉验证中,调优预算相等。结果主要报告了在第70天前未退学的12,436名注册学生的情况。在该组中,混合模型的ROC曲线下面积(AUC)达到0.825。它优于仅静态和仅表示的模型,但不优于使用聚合活动的静态特征的梯度提升模型(AUC 0.822)或原始周计数(0.832);两种差异在统计上均不显著。在表示固定的情况下,提升的头部仅当包含静态特征时才优于逻辑回归和神经网络头部。纳入已退学学生使所有学习配置的AUC提高了0.062–0.087,这大于竞争性模型之间的差异。预测校准良好,早期评估变量的个体归因最大,且错误率在不同社会经济群体间存在差异。主要贡献是提供了可复现的、控制信息泄漏的协议,用于测量序列编码器增加了什么价值。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号