基于Transformer分析的心理健康讨论中情感轨迹建模(Sentiment Trajectory Modeling in Mental Health Discussions via Transformer-based Analysis)

《Frontiers in Artificial Intelligence》:Sentiment trajectory modeling in mental health discussions via transformer-based analysis

【字体: 大 中 小 】 时间:2026年06月26日 来源:Frontiers in Artificial Intelligence 6.7

编辑推荐:

  摘要:引言:社交媒体平台持续产生用户生成文本,有望作为反映人群及个体心理健康状态的有用信息来源。然而,现有社交媒体文本情感分析方法将文本视为独立的静态实例,未能考虑情感状态天然演化的底层动态特性。方法:研究人员提出一种新颖的时序情感进展分析(Temporal

  
摘要:引言:社交媒体平台持续产生用户生成文本,有望作为反映人群及个体心理健康状态的有用信息来源。然而,现有社交媒体文本情感分析方法将文本视为独立的静态实例,未能考虑情感状态天然演化的底层动态特性。方法:研究人员提出一种新颖的时序情感进展分析(Temporal Sentiment Progression Analysis)框架,利用特定领域Transformer架构重建用户在给定时间段内的完整情感演化过程。该框架捕捉情感演化的重要方面,包括变异性(variability)、波动性(volatility)及用户情感进程中的关键情感拐点(emotional inflection points)。该方法使用Transformer模型进行逐条评论的情感与主题分类,随后通过后验统计(post hoc statistical analysis)检验用户讨论中的时间模式。框架在约4000条采集自八个心理健康相关子版块(subreddit)的Reddit评论数据集上评估,训练阶段仅额外使用合成样本以解决类别不平衡问题;性能评估专在真实Reddit评论上进行,并借助外部Reddit心理健康数据集及对比基线实验进一步验证。结果:在大规模社交媒体数据集上的实验结果显示不同的情感进展原型(sentiment progression archetypes),与自我报告的健康担忧高度相关。所提框架分类准确率达92%。讨论:该方法从静态情感分析转向动态情感进展分析,有助于更细致地理解情绪困扰的演化过程,可用于开发情境感知干预措施以缓解心理健康问题。
论文解读:基于Transformer分析的心理健康讨论中情感轨迹建模
研究背景与动机
数字生活已成为洞察心理健康的一扇窗口。全球范围内抑郁症(Major Depressive Disorder, MDD)等疾病负担沉重,但存在治疗可及性低与社会污名化导致的漏诊问题。社交媒体(如Reddit)因匿名性与长篇叙事特征,积累了大量纵向心理健康相关自然语言数据,为计算精神病学提供了契机。传统心理健康文本分析依赖词典法(如LIWC)与传统机器学习(SVM、LR),受限于预定义词表且无法捕捉上下文语义;深度学习(CNN、LSTM)虽能自动提取特征,但受困于梯度消失与长程依赖建模不足。Transformer架构(BERT、RoBERTa)及其领域适配版本(MentalBERT针对心理健康论坛语料预训练)凭借自注意力机制显著提升了语境理解力,已在静态心理健康检测中取得优异表现。然而,现有研究大多聚焦静态分类(判断单条帖子或历史存档所属类别),忽视了情感状态随时间的动态演化——即缺乏形式化的情感轨迹(sentiment trajectory)建模框架,未将情感时间序列本身作为分析对象来考察其斜率(变化率)、波动性及关键拐点。填补这一从静态检测到动态时序情感进展分析(Temporal Sentiment Progression Analysis)的研究空白是本研究的核心动因。本文发表于《Frontiers in Artificial Intelligence》。
主要关键技术方法
研究人员从Reddit八个心理健康子版块(r/depression, r/anxiety, r/mentalhealth, r/bipolar, r/BipolarReddit, r/ptsd, r/socialanxiety, r/ocd)采集约4000条评论(2018–2020年),用户标识经加密哈希匿名化。原始文本去除URL、表情符号、标点,小写化并去除停用词、词形还原;引入少量模板生成并经人工校验的合成样本(每类约500条)仅用于训练阶段类别平衡,测试验证严格使用真实Reddit评论并按用户级别划分以防数据泄露。采用参数高效微调(Parameter-Efficient Fine-Tuning, PEFT)中的低秩适配(Low-Rank Adaptation, LoRA,rank=16, alpha=32)分别微调两组模型:① RoBERTa-base做三分类情感分析(负=-1,中性=0,正=+1);② MentalBERT-base做十类主题分类(Depression、Anxiety、PTSD、Stress、Social Issues、Self-harm、Support Seeking、Support Providing、Professional Treatment、Off-topic)。逐条评论输出数值化情感得分与主题标签后,按用户分组并按时间戳排序(最早评论设为相对第0天),通过后验(post-hoc)统计方法构建情感轨迹:线性回归求趋势斜率(β)、Pearson相关系数、前后相邻评论情感改善/恶化转移得分(Betterment/Deterioration Transition Score)、情感波动性(标准差σS)、非参数Mann-Kendall检验(τ)判断单调趋势,结合TF-IDF提取各轨迹对应高频关键词,辅以SHAP(SHapley Additive exPlanations)进行可解释性分析。
研究结果
4.1 Model performance on sentiment and disorder classification
研究人员用留出真实测试集评估微调后RoBERTa情感三分类准确率为92.0%,加权F1值91.5%,精确率93.05%,召回率93.1%;其中负类F1达0.93,中性0.89,正类0.91。MentalBERT十类主题分类准确率93.05%,宏F1值89.4%。两模型在外部SMHD(Self-Reported Mental Health Diagnoses)数据集上零额外微调时性能仅轻微下降(RoBERTa降至89.7%准确率,MentalBERT降至90.8%),证明框架具跨数据集泛化能力。消融实验表明去除合成数据或LoRA均致性能下降,全模型最优;去除了时间轨迹分析模块不影响分类性能但失去动态解读能力。与基线比:VADER(74.3%)、Logistic Regression(82.6%)、SVM(84.1%)、LSTM(87.6%)、BERT-base(88.9%)、通用RoBERTa(90.2%),所提领域适配+LoRA微调之RoBERTa(93.05%)与MentalBERT(90.8%)显著优于基线(McNemar检验p<0.05)。Reddit数据情感分布偏负(64%负、24%中性、12%正),主题以Depression、Support Seeking、Self-harm高频出现。
4.2 Evaluation metrics and visualizations
研究人员通过混淆矩阵确认模型对负类判别力强(精确率0.875,召回率0.867),中性与正类间存少量混淆属用户生成文本边界模糊所致。MentalBERT对Depression与Anxiety区分度好,Self-harm等低频类F1偏低(0.87)。SHAP分析显示"hopeless""help"对负向情感预测贡献大,"better""support"对正向贡献大,增强模型透明度。
4.3 Non-linear emotional dynamic
研究人员指出线性回归仅提供整体趋势概览,真实情感路径可能非线性复杂;未来可引入ARIMA或带注意力机制的时序Transformer捕获长程上下文依赖。此外框架目前限于Reddit语体,跨平台(X、Facebook)需域适应。
4.4 Annotation procedure and label reliability
双独立标注员对约20%评估集标注,Cohen's kappa为0.82(情感)与0.79(主题),表明标注可靠性高。
4.5 Progression analysis outcomes
对用户讨论史做时间回归得近零斜率(β=+0.01, p=0.866, R2=0.001)代表稳定但偏负的情感基线。Mann-Kendall检验τ≈0示无单调方向性。改善/恶化转移得分与波动性(σS)量化短时段情绪波动;部分用户呈明显改善(正斜率>0.01, 35%)、恶化(52%)或稳定(13%),与人工核验一致率88%。关键词"ptsd""terrible"随时间占比上升(Pearson's r=0.71)。主题演变显示后期Self-harm与Depression讨论比例增加,早期多为Support Seeking。
4.6 Statistical significance testing
McNemar检验证实所提Transformer模型显著优于BERT-base、LSTM及SVM基线(p<0.05,Bonferroni校正后依然显著)。
4.7 Applicability beyond social media contexts
框架可扩展至心理治疗转录文本分析、患者报告结局(Patient-Reported Outcomes, PROs)纵向监测等临床科研场景。
4.8 Limitations
局限含合成模板句未完全模拟真实叙事复杂性;真实Reddit语料规模有限影响泛化;单用户评论少时噪声放大低R2;需警惕LLM生成内容污染社交媒体数据;结果仅为语言学模式指示而非临床诊断。
讨论与结论翻译
研究人员在本研究中建立了一套完整的分析流程以审视Reddit平台的心理健康话语。该流程核心是双Transformer系统:RoBERTa模型分类用户帖子的情感极性,领域适配的MentalBERT模型解析与心理困扰相关的主题内容,从而同时捕捉整体情感基调与特定心理健康文本信号。对r/depression等社区用户评论语料的应用表明,此类讨论以负面情感表达为主,主题分析显示Depression与Stress最为常见;系统按个体重建时序情感可识别情绪困扰加剧时段,潜在辅助针对性干预。RoBERTa情感分类器达高精度,MentalBERT能有效区分相近心理健康讨论类别,但对Self-harm等低频高风险类仍需更大规模精标注数据。总体而言,本研究验证了定向Transformer模型解码数字领域心理健康复杂语言的潜力,结合系统数据预处理、现代NLP技术与可视化诊断,为计算社会科学提供可扩展范式,推动从在线论坛自发对话中提取知情支持与早期需求识别。框架旨在作为科研分析工具而非临床诊断系统。未来工作应扩大多样化心理健康语料、探索更先进数据增广、开发LLM生成内容检测与过滤机制,并关注符合伦理的社交媒体数据分析。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号