《Neural Networks》:Beyond Semantics: Exploiting Propagation Structures with Dual-Adapter LLMs for Fake News Detection
编辑推荐:
虚假新闻检测面临跨域挑战,传统内容分析因大语言模型(LLMs)生成逼真假新闻而失效。本文提出PSALLM框架,通过双适配器(非权重衰减适配器ANWD捕捉跨域不变结构,权重衰减适配器AWD建模域特定结构)与自适应蒸馏策略动态平衡两者,结合图前缀增强LLMs的传播结构感知能力。实验证明PSALLM在四组跨域数据集上显著优于基线,有效应对多平台、多主题的虚假信息传播。
作者:敖杰·司(Aojie Si)、陈世展(Shizhan Chen)、王晓宝(Xiaobao Wang)、孙月恒(Yueheng Sun)、郭家艾(Jiaai Guo)
天津大学智能与计算学院,中国天津市魏津路92号,300072
摘要
假新闻在多个平台和领域的迅速传播对公众舆论和社会稳定构成了重大威胁。传统的假新闻检测方法主要依赖于内容分析,但随着大型语言模型(LLMs)降低了生成假新闻的成本,这些方法的效果逐渐减弱。因此,需要探索更强大、更通用的检测方法来应对复杂的现实世界情况。本文提出了传播结构增强型LLMs(PSALLM),这是一种新型的假新闻检测模型,它利用LLMs来理解和感知新闻传播结构。具体而言,我们在预训练的LLM模型中设计了两个互补的适配器:一个无权重衰减的适配器(ANWD),用于捕捉跨领域的不变结构特征;另一个具有权重衰减的适配器(AWD),用于捕捉特定领域的结构变化。我们还引入了一种基于领域相似性的自适应蒸馏策略,以动态平衡两个适配器的影响。在四个真实世界的跨领域数据集上的广泛实验表明,PSALLM的表现始终优于现有的最佳基线模型,证实了其在处理不同新闻领域和操纵策略方面的有效性。代码将在匿名期结束后发布。
引言
随着信息社会的不断发展,假新闻的数量呈指数级增长,并在在线平台上迅速传播。假新闻的传播不仅严重误导了公众舆论,破坏了网络环境,还对社会稳定和发展构成了严重威胁。因此,如何及时准确地判断新闻的真实性已成为一个亟待解决的问题。
传统的假新闻检测方法主要关注分析新闻内容的语义(Wu等人,2020年)、风格(Monti等人,2019年)和情感(Min等人,2022年),并逐渐引入新闻的社会属性,如新闻发布媒体、用户互动指标以及新闻作者的发布偏好。尽管这些方法取得了一定的成功,但它们通常是在封闭世界假设下进行评估的,即训练数据和测试数据具有相同的分布(Peng等人,2025年;Peng、Luo、Zhang、Fang等人)。LLMs的出现大大降低了生成高度令人信服的假新闻的难度(Madine,2024年),使其能够在各种平台和主题领域快速传播。因此,仅在静态、同分布数据上训练的模型难以在现实世界环境中泛化。这一变化凸显了迫切需要更加通用和强大的假新闻检测框架,以便在开放世界、跨领域条件下有效运行。
最近的研究表明,利用新闻传播结构的模型比仅依赖内容特征或用户信息的模型具有更高的鲁棒性和稳定性(Sun等人,2023年)。传播模式,如转发树或用户互动图,不太容易受到表面操纵的影响,往往反映了错误信息传播背后的深层行为和关系线索。这些结构特征通常是领域不变的,非常适合用于跨领域假新闻检测(Han等人,2020年)。同时,大型语言模型(LLMs)在各种自然语言理解任务中展现了出色的泛化能力(Leng和Xiong,2024年)。然而,由于LLMs主要在扁平的文本输入上进行训练,它们缺乏对关系数据中结构依赖性的显式建模机制,例如新闻传播的时间和拓扑特征(Gong等人,2023年)。这一观察揭示了一个关键见解:传播结构提供了稳定的、抗操纵的特征,而LLMs则提供了强大的语义推理和泛化能力。仅依赖其中任何一方,在现实世界条件下,尤其是在检测不同领域或对抗性场景中的假新闻时,性能都会受到限制。因此,将传播结构建模与LLMs整合到一个统一框架中至关重要。这种整合使模型能够同时利用语义表达能力和结构意识,从而实现更强大和通用的假新闻检测。
先前的研究表明,来自不同领域的数据在特征空间中通常表现出不同的分布(Peng等人,2025年)。受此启发,我们构建了特征分布图,将多个特定领域数据集中的传播结构信息纳入其中,如图1所示。然而,我们的实证分析揭示了一个更为微妙的现实:尽管传播结构表现出一定程度的跨领域稳定性(Phan等人,2023年),但它们也存在微妙但不可忽视的领域特定偏差。如图1(a)所示,跨领域的平均传播模式相似,表明结构一致性;然而,图1(b)显示这些结构在不同领域之间存在显著差异,揭示了微妙但具有影响力的领域间变化。这些发现为在假新闻检测中利用LLMs带来了双重挑战。一方面,捕捉稳定的结构模式对于确保跨领域泛化至关重要;另一方面,适应特定领域的偏差对于避免过度泛化和性能下降至关重要。在单一模型中同时解决这两个问题仍然是一个未解决的问题。
为了解决这一挑战,我们提出了PSALLM,一种用于假新闻检测的传播结构增强型大型语言模型。PSALLM在预训练的LLaMA框架(Touvron等人,2023年)中融入了两个互补的适配器:一个无权重衰减适配器(ANWD),用于捕捉跨领域的不变结构特征;一个权重衰减适配器(AWD),用于建模特定领域的结构变化。这两个适配器通过基于领域相似性的自适应蒸馏机制进行逐步训练和协调,该机制根据结构对齐动态调整它们的贡献。此外,为了严格评估模型的泛化能力,我们采用了零样本评估协议,其中支持集不包含目标领域的任何样本或特定领域信息。
我们的贡献总结如下:
- •
我们提出了PSALLM,这是第一个专为鲁棒跨领域假新闻检测设计的传播感知型LLM框架。
- •
我们提出了一种双适配器策略,以分离稳定和领域敏感的传播结构表示,并设计了一种基于领域相似性的自适应蒸馏方法,以动态平衡两个适配器的贡献。
- •
我们在四个真实世界的跨领域数据集上进行了广泛实验,结果表明PSALLM的表现始终优于现有的最佳基线模型。
相关工作
相关研究
传统的假新闻检测方法主要关注从新闻内容中提取的语言特征。随后,更复杂的模型结合了社会背景特征以提高检测性能。例如,TriFN(Shu等人,2019年)同时建模了发布者与新闻之间的关系,以及用户与新闻文章之间的互动。SMAN(Yuan等人,2020年)将新闻内容与发布者和用户的可信度分数相结合。
问题陈述
我们将跨领域假新闻检测任务定义为在领域转换设置下的监督分类问题。设表示一个包含N个新闻事件的数据集。对于每个事件i:
- •
Ci表示包括新闻和转发文本在内的语义内容。
- •
表示传播结构图,其中节点代表用户或帖子,边代表转发关系。
•yi∈?{0, 1} 是真实或假的新闻标签。
我们考虑将两个数据集分开
方法论
在本节中,我们提出了一个基于新闻传播结构的微调LLM框架用于假新闻检测,如图2所示。所提出的模型利用图前缀使LLM能够直接理解传播结构,而无需对传播图进行文本描述(Guo等人,2023年)。我们首先从多模态图文本结构中提取特征(§4.1),然后逐步训练两个适配器(Yang等人,2024年)。
数据集
为了评估我们提出的模型的有效性,我们在六个真实世界的谣言检测数据集上进行了实验。由于LLMs的复杂性和规模,我们每个新闻事件仅采样了50个转发和评论节点。为了验证模型捕捉新闻传播结构的能力,我们构建了四个跨领域数据集设置:
- 组1:
使用Twitter15(Ma等人,2018年)作为训练集,Twitter16(Ma等人,2018年)作为测试集。
- 组2:
使用Twitter16作为训练集,Twitter15作为测试集。
结论
在本文中,我们介绍了PSALLM,这是一个通过可解释的传播结构建模来增强LLMs的假新闻检测框架。通过将结构和语义线索整合到图增强前缀中,PSALLM使模型能够更有效地捕捉新闻传播的动态。为了进一步提高领域泛化能力,我们采用了双适配器架构和领域自适应蒸馏策略。在四个真实世界的跨领域数据集上的广泛实验表明...
CRediT作者贡献声明
敖杰·司(Aojie Si):撰写——审阅与编辑、撰写——原始草稿、可视化、验证、监督、软件、资源、项目管理、方法论、调查、形式分析、数据整理。陈世展(Shizhan Chen):监督、软件、资源、项目管理、方法论、调查、资金获取、数据整理、概念化。王晓宝(Xiaobao Wang):撰写——审阅与编辑、可视化、验证、监督、项目管理、方法论、调查
利益冲突声明
作者声明他们没有已知的可能会影响本文所述工作的竞争性财务利益或个人关系。