生成式人工智能对虚假信息的事实验证:数字素养、信息处理与信息自我效能的作用

《TECHNOLOGY IN SOCIETY》:Fact-Check Misinformation by Generative Artificial Intelligence: The Roles of Digital Literacy, Information Processing, and Information Self-Efficacy

【字体: 大 中 小 】 时间:2026年09月27日 来源:TECHNOLOGY IN SOCIETY 12.9

编辑推荐:

   •数字素养驱动高等教育学习者对生成式人工智能(GenAI)的事实核查意愿。 •信息自我效能感显著调节数字素养与GenAI事实核查意愿之间的关系。 •启发式-系统化处理与信息自我效能感产生串行中介效应,其中系统化处理的作用强于用户的启发式处理。 引言 生成式人工智能(Gen

  

•数字素养驱动高等教育学习者对生成式人工智能(GenAI)的事实核查意愿。
•信息自我效能感显著调节数字素养与GenAI事实核查意愿之间的关系。
•启发式-系统化处理与信息自我效能感产生串行中介效应,其中系统化处理的作用强于用户的启发式处理。

引言

生成式人工智能(GenAI)是当代社会各领域中变化最快的技术之一(Chakraborty等,2024;Kumar等,2025;Oberoi等,2026)。在教育环境中,GenAI在多个方面极大地改变了教育格局,包括教学法方法、传统教育环境的创新、教育研究、自主学习和终身学习的兴起等(Chiu,2024;Nguyen等,2025;Xia等,2024)。确实,GenAI工具改革了学习者对待新知识的方式、学习方法、学习环境和用于学习的科技(Ruiz-Rojas等,2024),以及学习者如何在实际使用中应用知识(Tan等,2024)。例如,GenAI是发现和获取知识的高效搜索工具(Wang等,2024),提供个性化辅导(Bai等,2025;Binhammad等,2024;Ivanov等,2024),并创造公平获取自主学习机会的途径,方便学习者使用(Sevnarayan和Potter,2024)。

然而,使用GenAI学习存在显著风险,研究已指出包括自主性丧失、幻觉、学术诚信和伦理责任等问题(Cotton等,2024;Lye和Lim,2024;Williams,2024)。具体而言,GenAI生成的错误信息可能负面影响用户的信息处理,导致他们获取、应用或无意中传播不准确信息(Ferrara,2024;Hu等,2026;Lee和Nguyen,2025)。GenAI生成的错误信息需要仔细关注,有两个关键原因。首先,GenAI可以在几秒钟内生成大量内容,从而使得错误信息可以快速创建、改编和传播(Ansari,2025)。这种能力凸显了研究GenAI错误信息的重要性。其次,与传统的错误信息来源不同,GenAI系统可以生成流畅、连贯且听起来权威的响应,类似于准确信息(Adel和Alani,2025)。这种能力阻碍了学习者区分准确与不准确信息的能力,增加了错误信息被接受为可信内容的可能性。随着GenAI越来越多地融入学习环境,理解学习者如何处理AI生成的信息并核查内容以评估可信度,特别是识别错误信息,至关重要(Gosline等,2024)。然而,关于GenAI错误信息事实核查的研究仍然有限(Lee等,2024)。

研究表明,学习者在使用媒体技术学习时运用认知机制(Chaiken和Ledgerwood,2012)。为了理解这些认知机制,本研究借鉴双过程理论,深入了解学习者如何处理GenAI生成的信息。双过程理论认为,人类在接收和处理信息时有两种不同的认知过程机制(Blackburn,2016;Chaiken,1989)。派生于双过程理论的信息处理启发式-系统模型是一个已确立的框架,用于检验认知过程(Chaiken和Ledgerwood,2012;Todorov等,2002),并指导本研究。此外,本研究考察数字素养作为通过启发式思维和系统思维干预用户错误信息处理的途径。数字素养被概念化为人类利用数字技术高效且有思考地搜索、评估和使用信息的能力(Reddy等,2020)。它在学习者信息处理中发挥重要作用,同时利用GenAI对话代理作为识别和评估GenAI响应中不准确性的关键能力(Chu-Ke和Dong,2024)。因此,本研究主张数字素养在核查GenAI生成信息的事实核查意愿方面起着关键作用。提出的理论模型进一步提出信息自我效能感作为数字素养的关键中介变量。信息自我效能感指用户评估信息的能力,包括获取、理解、解释和综合信息的能力(Keshavarz等,2023)。这些能力对于促进和激励用户验证潜在错误信息至关重要(Chen等,2024;Ferrucci和Hopp,2023)。

本研究旨在了解GenAI用户数字素养和效能感如何通过信息处理影响对GenAI错误信息的事实核查意愿。采用定量方法,本研究解决了以下研究问题:数字素养和信息自我效能感如何通过影响启发式-系统化处理来提高对GenAI对话代理潜在错误信息的事实核查意愿?

回答这一研究问题意味着揭示具体的认知路径,将用户的基本数字能力转化为GenAI中介学习环境中的主动事实核查行为。具体来说,该问题确立了数字素养和信息自我效能感如何塑造启发式处理和系统处理以管理认知超载并影响事实核查。研究结果直接告知政策制定者如何将素养融入教育课程,以及平台设计者如何将这些路径转化为界面功能,如针对启发式处理的视觉数字提示和针对系统处理的透明推理痕迹,以积极促进负责任的GenAI消费。

本文其余部分如下进行。第2节回顾了现有文献并建立了假设发展的理论基础。第3节概述了研究方法,详细介绍了抽样策略、测量方法和数据分析方法。第4节呈现了分析结果,随后第5节综合了发现并讨论了其理论和实践意义。论文最后承认了其局限性(第6节),提供了未来研究的方向(第7节),并得出总体结论(第8节)。

文献综述

本节建立了论文的理论基础、关键概念和假设发展框架。值得注意的是,信息处理中的启发式-系统模型(Chaiken和Ledgerwood,2012;Shin,2024)是主要的理论框架。数字素养(Ng,2012)和信息自我效能感(Keshavarz等,2023)的概念也被整合以补充启发式-系统模型结构。

方法

本研究采用后实证主义认识论视角,提出认知行为可以通过经验观察和演绎测试来近似(Creswell和Creswell,2017)。与该范式一致,定量方法是必要的,以客观测量预定义构念,验证串行中介路径,并在GenAI用户中推广发现。因此,进行了一项横截面调查,目标是高等教育中的GenAI用户,以检验...

发现

按照Anderson和Gerbing(1988)的两步法,本节呈现分析结果。首先报告描述性统计、信度和效度评估,随后呈现路径分析结果以进行假设检验。

讨论

本研究考察数字素养与效能感如何共同影响对从GenAI获取信息进行事实核查的意愿,特别是在教育环境中,使用双启发式-系统化处理框架。一个重要的发现是,数字素养与GenAI信息的事实核查意愿显著相关,既有直接关系,也通过信息自我效能感间接相关。数字素养与...之间的关系...

局限性

本研究承认以下局限性。首先,该框架限于将数字素养作为学习者对GenAI生成信息进行事实核查意愿的主要预测变量,同时仅考虑年龄和性别。其他可能塑造事实核查意愿的心理、技术和情境因素未被考察,应在未来研究中考虑。其次,虽然方法采用自我报告调查设计,使得...

未来研究意义

为了克服这些局限性,未来研究可以扩展更彻底地检验学习过程中事实核查意愿的GenAI信息处理决定因素和效果。除控制可能的混杂因素外,提出的模型还可以受益于在数字素养之外考察其他决定因素。也可以进行和检验干预或培训,以提高学习者对GenAI使用的数字素养,作为进一步步骤...

结论

在关于GenAI信息事实核查意愿的概念模型中,我们提出了信息处理启发式-系统模型与数字素养和信息自我效能感。基于新加坡668名高等教育学习者的调查数据并使用路径分析,研究发现GenAI使用中的数字素养与学习者对GenAI生成信息进行事实核查的意愿有显著正相关关系。最具理论重要性的...

CRediT作者贡献声明

Chei Sian Lee:写作—审阅与编辑,监督,资金获取。Tran Mai Chi Nguyen:写作—审阅与编辑,写作—原稿,方法论,形式分析,概念化。

未引用的参考文献

Tandoc Jr等,2020;Wu等,2025。

数据和材料的可获得性

生成的数据集可在此获取:Nguyen, T. M. C., & Lee, C. S. (2026). Fact-check misinformation by generative artificial intelligence: The roles of digital literacy, information processing, and information self-efficacy [Data set]. DR-NTU (Data). https://doi.org/10.21979/N9/P5WUGI

资金(待审阅后更新)。

建构维度的互相关矩阵。

空单元格 (1)(2)(3)(4)(5)(6)(7)(8)(9)(10)(11)(12)(13)
DL-技术 (1)
DL-认知 (2) .74
UH-情感 (3) .06 -.05
UH-公平性 (4) .13 .01 .52
UH-问责 (5) .20 .14 .18 .12
UH-透明度 (6) .20 .22 .06 .11 .56
SP-准确性 (7) .26 .13 .38 .43 .14 .14
SP-可信度 (8) .26 .13 .37 .36 .13 .11 .83
SP-可解释性 (9) .32 .26 .16 .21 .36 .38 .42 .46
SP-诊断性 (10) .27 .21 .26 .31 .25 .27 .54 .56 .47
IE-评估-理解 (11) .40 .35 .08 .20 .29 .35 .37 .37

利益冲突声明

? 作者声明他们没有已知的竞争财务利益或个人关系可能影响本文报告的工作。

Chi Tran Mai Nguyen是新加坡南洋理工大学伟坤伟通讯与信息学院的研究型硕士学生。她的研究兴趣包括数字语境下的数字素养和错误信息。

Chi Tran Mai Nguyen | Chei Sian Lee
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号