混合Transformer-XGBoost模型在开放大学学生退学预警中的评估与贡献
《Digital》:Early Prediction of Academic Outcomes in Virtual Learning Environments via a Hybrid Transformer–XGBoost Model
【字体:
大
中
小
】
时间:2026年10月22日
来源:Digital CS4.8
摘要
预警系统旨在及时识别有失败或退学风险的学生以便采取行动。我们针对开放大学学习分析数据集的两个模块,评估了一种混合模型:使用Transformer编码器对前十周的虚拟学习环境活动进行摘要,并用XGBoost将该表示与人口统计学和早期评估特征相结合。预处理、编码器训练和调优均嵌套在以学生为单位的交叉验证中,调优预算相等。结果主要报告了在第70天前未退学的12,436名注册学生的情况。在该组中,混合模型的ROC曲线下面积(AUC)达到0.825。它优于仅静态和仅表示的模型,但不优于使用聚合活动的静态特征的梯度提升模型(AUC 0.822)或原始周计数(0.832);两种差异在统计上均不显著。在表示固定的情况下,提升的头部仅当包含静态特征时才优于逻辑回归和神经网络头部。纳入已退学学生使所有学习配置的AUC提高了0.062–0.087,这大于竞争性模型之间的差异。预测校准良好,早期评估变量的个体归因最大,且错误率在不同社会经济群体间存在差异。主要贡献是提供了可复现的、控制信息泄漏的协议,用于测量序列编码器增加了什么价值。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号