遵循与验证人工智能生成健康建议的行为决定因素建模:电子健康素养、认知负荷与技术自我效能的作用

《Journal of Multidisciplinary Healthcare》:Modeling Behavioral Determinants of Following and Verifying AI-Generated Health Advice: The Roles of eHealth Literacy, Cognitive Load, and Technology Self-Efficacy

【字体: 大 中 小 】 时间:2026年06月08日 来源:Journal of Multidisciplinary Healthcare 2.4

编辑推荐:

  生成式人工智能(GenAI)系统如ChatGPT、Google Gemini和Claude的快速扩展正在改变个体获取和解读健康信息的方式。尽管这些工具提升了可及性和参与度,但其也带来了与错误信息、幻觉(hallucination)和自动化偏见(automati

  
生成式人工智能(GenAI)系统如ChatGPT、Google Gemini和Claude的快速扩展正在改变个体获取和解读健康信息的方式。尽管这些工具提升了可及性和参与度,但其也带来了与错误信息、幻觉(hallucination)和自动化偏见(automation bias)相关的风险,引发了关于用户如何评估并依据人工智能生成建议采取行动的关注。本研究旨在考察影响个体遵循或验证人工智能生成健康建议的心理与认知决定因素,聚焦于电子健康素养(eHealth literacy)、认知负荷(cognitive load)和技术自我效能(technology self-efficacy)在沙特阿拉伯数字健康转型背景下的作用。研究人员对487名先前使用GenAI进行健康相关活动的沙特阿拉伯成年人开展了横截面在线调查,采用经过验证的工具包括电子健康素养量表(eHEALS)、认知负荷量表和计算机与信息技术自我效能量表。结构方程模型(SEM)用于检验直接、中介和调节关系。结果显示,验证意愿受到电子健康素养(β = 0.36, p <0.001)和技术自我效能(β = 0.25, p <0.001)的正向预测,且二者均降低了对未验证人工智能建议的依赖。认知负荷增加了遵循行为(β = 0.29, p <0.001)并降低了验证行为(β = –0.27, p <0.001)。认知负荷在电子健康素养与验证之间起部分中介作用,而技术自我效能缓解了认知负荷的负面影响。该模型解释了验证意愿56%的方差和遵循意愿44%的方差。研究表明,电子健康素养和技术自我效能支持对人工智能生成健康信息的批判性评估,而认知负荷则是知情决策的障碍。这些发现强调了以用户为中心的人工智能设计策略——如简化输出和验证提示——以及有针对性的素养提升举措对于促进人工智能在医疗保健中安全有效使用的必要性。
随着生成式人工智能(GenAI)系统在医疗健康领域的快速渗透,个体获取和解读健康信息的方式发生了根本性变革。与传统信息系统不同,GenAI模型通过概率性语言建模生成回应,能够产出情境感知、对话式的输出,而非检索静态信息。以ChatGPT、Google Gemini和Claude为代表的会话系统可以针对复杂的健康相关查询生成自然、类人的回应,使个性化指导触达广泛而多元的受众。然而,这种技术便利性的背后潜藏着显著风险:GenAI系统并非通过直接验证证据来生成知识,而是通过统计模式识别,其输出虽常具有连贯性和情境适当性,却可能包含不准确、偏见或虚构的细节——即"幻觉"(hallucination)现象。在沙特阿拉伯等数字健康转型迅速推进的国家,这一问题尤为突出。该国在"2030愿景"(Vision 2030)框架下将人工智能作为现代化医疗系统的核心支柱,AI驱动平台日益融入数字健康生态系统,但系统的类人性与说服力也带来了信息准确性、用户信任和行为响应方面的新挑战。

现有研究在理解用户如何与AI生成的健康建议互动方面存在明显不足。多数研究集中于一般技术接受度或对AI的态度,而非具体的评估行为——如用户是否选择遵循或验证AI生成的建议。此外,现有证据多来自西方背景,对非西方情境关注有限,而文化、社会和技术因素可能在其中发挥不同的调节作用。在沙特阿拉伯,与权威、专业知识和技术接受相关的文化规范可能塑造出独特的用户响应模式。基于此,研究人员开展了一项聚焦于行为决定因素的研究,旨在揭示电子健康素养、认知负荷和技术自我效能如何交互影响用户对AI生成健康建议的遵循与验证意愿,研究成果发表于《Journal of Multidisciplinary Healthcare》。

该研究采用横截面定量设计,于2025年3月至6月期间通过在线调查收集了沙特阿拉伯487名成年人的数据。样本来源于Twitter/X、LinkedIn、WhatsApp学术网络及机构邮件列表的便利抽样,纳入标准为18岁及以上、具有GenAI健康相关使用经验的居民。研究运用了验证性因子分析(CFA)和结构方程模型(SEM,2000次Bootstrap抽样)进行数据分析,测量工具包括eHEALS量表、Leppink等开发的认知负荷量表、CITSE量表,以及改编自自动化信任文献的行为意向量表。

研究结果部分,研究人员首先报告了参与者特征。最终纳入分析的487例有效样本中,男性占68.2%,67.8%的受访者年龄在25-44岁之间,74.3%持有学士学位及以上,58.5%每周使用GenAI系统,31.4%在近三个月内寻求过AI生成的健康信息。

在信度与描述统计方面,所有量表均显示出优良的内部一致性(Cronbach's α = 0.85-0.92)。参与者报告了中等偏高的电子健康素养和技术自我效能,同时感知认知负荷相对较低。

测量模型评估显示,包含五个潜变量(电子健康素养、认知负荷、技术自我效能、验证意向、遵循意向)的模型拟合良好:χ2 = 406.12, df = 214, χ2/df = 1.90, CFI = 0.952, TLI = 0.944, RMSEA = 0.043(90% CI: 0.037-0.050), SRMR = 0.038。所有标准化因子载荷均具有统计学意义(p < 0.001),范围为0.64至0.88。

结构模型评估表明,假设结构模型同样达到了优秀的拟合水平:χ2 = 454.85, df = 237, χ2/df = 1.92, CFI = 0.947, TLI = 0.937, RMSEA = 0.044, SRMR = 0.041。模型解释了验证意向56%的方差和遵循意向44%的方差。具体路径系数显示:电子健康素养负向预测认知负荷(β = -0.27)和遵循意向(β = -0.18);认知负荷正向预测遵循意向(β = 0.66)和验证意向(β = 0.29);技术自我效能正向预测认知负荷(β = 0.16)和验证意向(β = 0.25);技术自我效能与认知负荷的交互项显著(β = 0.10);电子健康素养负向预测验证意向(β = -0.16,此处需注意与中介路径的区分)。

中介与调节效应分析方面,Bootstrap检验证实认知负荷在电子健康素养与验证意向关系间发挥部分中介作用(β = –0.09, 95% CI [–0.17, –0.04])。认知负荷与技术自我效能的交互项显著(β = 0.10, p = 0.010),简单斜率分析显示在高自我效能水平下,认知负荷对验证意向的负向效应明显减弱,表明自信的即使用户在心理努力较高时仍能维持分析性参与。

在讨论部分,研究人员首先阐述了电子健康素养的核心作用。具有较高电子健康素养水平的个体更可能验证AI生成的健康信息,且不太可能未经批判性评估即接受。这与先前研究一致,即数字素养增强了个体评估在线信息可信度的能力,并在与算法输出互动时进行分析性推理。在沙特"2030愿景"积极促进数字健康参与的情境下,这些发现凸显了加强人群层面电子健康素养作为安全AI采纳基础要素的重要性。

认知负荷作为关键机制影响行为响应的研究发现具有重要理论与实践意义。较高水平的认知负荷与验证减少、对AI生成建议依赖增加相关,这支持了认知负荷理论的基本假设。当AI生成内容复杂、冗长或模糊时,用户可能经历心理疲劳,转而依赖语言流畅性或感知权威性等启发式线索。这种模式反映了认知卸载(cognitive offloading)现象——即个体在高认知努力时日益依赖自动化系统。在沙特多元化的用户群体中,这些认知约束可能显著影响AI生成健康信息的处理和行动方式。从实践角度,这强调了设计最小化不必要认知负担的AI系统的重要性,如简洁输出、结构化格式、信息清晰分段和透明来源标识等功能。

技术自我效能的显著作用同样值得关注。较高技术自我效能的个体更可能验证AI生成建议,且不太可能盲目遵循。这一发现与先前研究将自我效能与数字环境中更大坚持性、参与度和反思性决策相联系的结果一致。尤为重要的是,本研究观察到的调节效应表明自我效能够缓冲认知负荷的负面影响——即使信息复杂,高信心用户仍能更好地维持批判性评估。在沙特数字转型 initiative 旨在向不同人群扩展AI技术获取的背景下,培养技术自信心对于确保公平和安全使用至关重要。

综合而言,这些发现支持了提出的概念模型,并为AI中介健康情境中的信任校准提供了更细致的理解。研究人员指出,用户行为是接受与验证之间的权衡,而非二元的信任视角。在快速数字化的医疗环境中,这种平衡对于确保用户从AI技术获益同时避免过度依赖尤为关键。

从政策与实践层面,研究为AI开发者、医疗机构和政策制定者提供了可操作的见解。开发者应融入以用户为中心的设计原则,如简化语言、要点总结、视觉结构化信息,以及内置提示鼓励用户通过可信来源验证健康建议。医疗机构可将AI素养整合入患者教育和临床沟通策略。政策层面,研究结果强化了技术进步与行为准备相匹配的重要性——沙特"2030愿景"强调数字转型和AI整合,但成功实施还取决于加强用户的电子健康素养和技术自我效能。

研究结论部分指出,本研究通过揭示行为和认知因素如何塑造个体遵循或验证AI生成健康信息的意愿,为日益增长的人类-AI交互知识体系做出了贡献。电子健康素养和技术自我效能在批判性评估和负责任参与中发挥关键使能作用,而认知负荷则是促进对AI生成建议不加批判依赖的重要障碍。这些结果凸显,AI在医疗保健中的有效运用不仅取决于技术能力,还取决于用户的认知容量和与数字系统互动的信心。在沙特"2030愿景"下持续数字转型的背景下,这些发现对将AI安全有效整合入医疗保健具有重要意义。促进与AI生成健康信息的平衡、知情参与需要双重关注:一方面,AI系统开发应强调简洁性、透明度和认知效率高的信息呈现,以减少用户负担并支持验证行为;另一方面,政策制定者和医疗机构应优先开展加强全人群电子健康素养和技术自我效能的倡议,确保个体具备批判性评估AI生成输出的能力。未来研究应采用纵向和实验设计以更好地确立因果关系并评估干预策略效果,同时深入探究情境和文化因素——特别是在快速数字化社会中的用户如何与AI生成健康信息互动,这将支持开发更负责任、以用户为中心、伦理基础更坚实的医疗保健AI系统。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号