在克罗地亚语自然语言处理(NLP)中融入语言归一化:评估词形还原对虚假信息检测性能的影响

《Electronics》:Incorporating Linguistic Normalization in Croatian NLP: Evaluating the Impact of Lemmatization on Disinformation Detection Performance

【字体: 大 中 小 】 时间:2026年08月27日 来源:Electronics 2.9

编辑推荐:

  在形态丰富且资源匮乏的语言中检测虚假信息仍然是自然语言处理(NLP)中的一个重大挑战。本文探讨了词形还原作为一种预处理策略在克罗地亚语虚假信息检测中的作用。在先前工作的基础上,并将评估范围扩展到一个新收集的包含近25,000条社交媒体评论的数据集,研究人员系统

  
在形态丰富且资源匮乏的语言中检测虚假信息仍然是自然语言处理(NLP)中的一个重大挑战。本文探讨了词形还原作为一种预处理策略在克罗地亚语虚假信息检测中的作用。在先前工作的基础上,并将评估范围扩展到一个新收集的包含近25,000条社交媒体评论的数据集,研究人员系统地比较了传统机器学习分类器(SVM、随机森林和神经网络)和基于Transformer的模型在原始文本和词形还原文本上的表现。研究结果表明,词形还原在不同的架构中并没有产生统一的收益:虽然线性模型和croBERT从形态归一化中获得了微小但可测量的改进,但诸如RBF SVM和神经网络等非线性模型的性能却出现了显著的下降。这些结果表明,词形还原与模型的归纳偏置和特征提取机制有不同的相互作用。总体而言,本研究为低资源、形态复杂语言的预处理选择提供了详细的实证评估,并为在克罗地亚语及类似语境中开发虚假信息检测系统提供了实践指导。
研究背景与意义:形态丰富且低资源的克罗地亚语在自然语言处理研究中代表性不足。社交媒体平台的特性加剧了虚假信息的传播,克罗地亚语由于具有复杂的屈折形态,同一词汇存在大量表层变体,导致数据稀疏并影响依赖词元级特征的模型性能。研究人员此前开发的检测框架未能明确解决克罗地亚语的形态复杂性问题,且在现代基于Transformer的模型时代,显式形态归一化是否仍有益处尚不明确。为此,研究人员开展了一项系统评估,旨在探讨将词形还原整合到虚假信息检测预处理流程中的效果。研究发现词形还原的影响高度依赖模型架构,线性模型获益而非线性模型受损,Transformer模型则不敏感。该研究为低资源、形态复杂语言的预处理选择提供了实证评估,论文发表在《Electronics》期刊上,为非英语语境下的内容审核和信息系统开发提供了实用指导。

关键技术方法:研究人员使用了FRENK 1.1数据集和新收集的24,019条克罗地亚语社交媒体评论数据集作为样本队列来源。采用CLASSLA–Stanza流水线进行词形还原预处理。模型设置包括基于TF-IDF(词频-逆文档频率)特征的传统机器学习模型,如线性支持向量机(SVM,Support Vector Machine)、带径向基函数(RBF)核的非线性SVM、随机森林(RF,Random Forest)和前馈神经网络(NN,Neural Network),以及基于Transformer架构的croBERT模型。评估采用五折分层交叉验证,并结合配对t检验和Wilcoxon符号秩检验进行统计分析。

研究结果:
4.1. Experimental Setup(实验设置):通过在验证集上优化超参数并在相同条件下评估模型,研究人员隔离了词形还原的影响,确保性能差异完全归因于预处理效果。
4.2. Quantitative Results(定量结果):词形还原对不同架构模型产生了异构影响。线性SVM、随机森林和croBERT在词形还原文本上表现出微小但一致的提升,表明词汇归一化减少了特征稀疏性,有利于线性或集成决策边界。相反,依赖丰富词元级分布的RBF核SVM和神经网络出现了显著的性能下降,说明词形还原可能移除了这些模型隐式利用的词汇微妙线索。统计分析表明,非线性模型性能下降具有中至大效应量且具有统计学意义(p < 10-16),而croBERT的混淆矩阵在两种条件下几乎相同,证实了其对预处理变化的不敏感性。
4.3. Discussion(讨论):研究表明词形还原并非普遍有益的归一化策略。词形还原将词汇量减少了41.43%。对于线性模型,词汇合并减少了特征碎片化;对于Transformer模型,其子词分词机制已隐式编码了形态信息;但对于非线性模型,屈折变异等表层信号携带有价值的任务相关线索,归一化移除了这些信息,导致判别力下降。

总结讨论与翻译研究结论部分:总结而言,语言学归一化并非中立的预处理步骤,其效果取决于模型利用的线索。预处理应根据目标架构和数据的语言特性来选择,而非默认应用。未来的工作应探索领域自适应预训练、混合特征方案以及跨平台多模态输入,并探讨形态归一化如何与AI生成的合成内容相互作用。研究结论部分原文翻译:本文延续了研究人员在形态丰富、低资源语言(如克罗地亚语)虚假信息检测方面的研究。实验表明,词形还原的效果强烈依赖于模型类别。它为线性和集成方法带来了适度改进,但导致依赖非线性决策边界或表层词汇线索的方法性能下降;Transformer模型则对此基本不敏感。定性检查证实,归一化可能移除传达立场或敌意的形态句法线索。因此,预处理选择应考虑目标架构和语言特性。未来方向包括领域自适应预训练、更丰富的混合语言表示以及更广泛的多模态数据应用。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号