情境风险如何影响飞行员对标注为人类或人工智能的推荐所作出的决策

《International Journal of Industrial Ergonomics》:How situational risk shapes pilots’ decision-making in response to human-versus AI-labeled recommendations

【字体: 大 中 小 】 时间:2026年09月30日 来源:International Journal of Industrial Ergonomics 3.6

编辑推荐:

   • 在人为风险分级的情况下,飞行员在人—AI协作过程中做出了降落/复飞决策。• 在极端风险下,飞行员对AI建议的行为依赖程度大于对人类建议的依赖。• 在极端风险下,AI支持的决策与证据积累过程中较高的漂移率相关。• 眼动追踪揭示,在极端风险下AI支持的决策过程中,飞行员对下滑

  

• 在人为风险分级的情况下,飞行员在人—AI协作过程中做出了降落/复飞决策。• 在极端风险下,飞行员对AI建议的行为依赖程度大于对人类建议的依赖。• 在极端风险下,AI支持的决策与证据积累过程中较高的漂移率相关。• 眼动追踪揭示,在极端风险下AI支持的决策过程中,飞行员对下滑道信息的注视时间减少。

## 引言

人工智能(AI)系统越来越多地参与医疗保健、法律、交通运输和航空等安全关键领域的判断和决策(Araujo等, 2020;Fahnenstich等, 2024;Sutthithatip等, 2021)。在传统决策情境中,行动建议通常由另一位人类决策者提供。相比之下,当代算法系统能够处理大量数据、评估风险并提出行动方案,从而发挥决策支持系统的作用,而非仅仅是被动的信息工具(Siami等, 2024)。从人因工程学的角度来看,这一转变凸显了理解操作员如何解读并回应安全关键工作系统中AI系统所提建议的必要性。

在航空领域,这一转变尤为显著。持续的驾驶舱自动化和数字化进程重新引发了人们对单飞行员运行(SPO)的关注,在这种运行模式下,当前由双机组成员分配承担的功能将越来越多地由先进自动化或AI系统提供支持(Harris, 2023)。这一转变提出了一个根本性问题:当建议内容保持不变但其标注来源从人类变为AI时,飞行员不仅在是否遵循建议上是否存在差异,在决策动态和视觉注意力上是否也存在差异?

先前的研究报告了AI建议采纳的矛盾模式。一方面,研究记录了人们倾向于轻视或抵制算法建议而更偏好人类判断的趋势——即使人类的准确性客观上更低——这一现象被称为算法厌恶(Dietvorst等, 2015, 2018;Longoni等, 2019, 2020;Mahmud等, 2022)。另一方面,一些研究显示,在具有明确结构或高信息负荷的任务中,AI建议的采纳程度更高,因为在这些情境中,算法建议被视为稳定且客观的(Adam等, 2023;Logg等, 2019)。重要的是,这些看似矛盾的模式并非互斥,而是似乎受到任务特征(包括任务难度和情境风险)的调节(Bogert等, 2021;Jussupow等, 2024;Schecter等, 2023)。在航空领域,对AI建议的担忧不仅源于对准确性的质疑,还源于AI系统是否被认为具有足够的适应性来应对情境需求(Zhang等, 2021)。相关研究表明,飞行员和学员在具有实际运营意义的情境中可能更偏好人类协助而非AI协助(Marchand等, 2024),这表明对AI建议的保留态度在航空情境中也同样存在。

情境风险被认为是影响人与AI系统交互的关键因素。它通常被定义为负性事件发生概率与严重程度的乘积(德国标准化协会, 2010)。先前的研究表明,情境风险可能同时影响对自动化的主观信任和行为依赖,尽管这两个构念是相互独立的,不一定同步变化(Hoff和Bashir, 2015;Parasuraman和Riley, 1997;Sun和Ding, 2025)。然而,风险、信任与依赖之间的关系在各项研究中并未得到一致的刻画。一些研究报告,风险增加会降低对自动化系统的信任和使用(Perkins等, 2010),而另一些研究发现,较高的风险或与风险相关的工作负荷与更高的信任或行为依赖相关(Fahnenstich等, 2024;Sato等, 2020)。还有一些研究报告,风险水平与态度性信任之间没有显著关系(Hoesterey和Onnasch, 2023)。这些混合的结论表明,情境风险的效果具有情境依赖性。

较新的证据表明,风险可能重塑对人类和AI决策支持的反应。Fahnenstich等(2024)发现,风险升高会增加相对于人类决策支持的AI决策支持的行为信任。建议采纳研究进一步表明,决策者会将外部建议与自身判断进行整合,且建议的使用取决于任务特征和来源特征(Hoff和Bashir, 2015;Bonaccio和Dalal, 2006)。因此,对人类建议还是算法建议的偏好似乎是取决于任务的,而非普遍性的(Castelo等, 2019)。在一项心理健康任务中,在较低威胁下参与者更偏好来自人类同伴群体的建议,但在较高威胁下这种偏好消失(Liu等, 2026)。综合这些发现,情境风险可能调节对不同来源标注的建议的反应,尽管具体模式和潜在机制仍不确定。

几种机制可能导致这种情境敏感性。虽然决策委托与建议采纳有所不同,但人们更愿意将涉及潜在损失的决策委托给AI而非人类(Candrian和Scherer, 2022)。对人类同伴的反应也受到感知意图性和关于放弃控制权的担忧的影响(Butler和Miller, 2018),而外部决策支持可能促进认知卸载(Risko和Gilbert, 2016)。在航空情境中,Pan等(2026)发现,在急性压力下,最终决策与机器建议的一致性显著提高,倾向于将自身判断修改为符合机器建议的倾向也显著增加,这在一定程度上可能引发自动化自满。这些发现将来源相关的期望、控制权担忧和认知卸载确定为需要直接考察的可能机制。

从人因工程学的角度来看,信任与在不确定和脆弱条件下的自动化支持依赖相关但有所不同。信任是对系统或来源的主观态度,而依赖是可观察的行为反应;两个构念相关但并不等同(Hoff和Bashir, 2015;Lee和See, 2004)。来源类型和感知专长可能同时影响信任与依赖(Pearson等, 2019),在自动化存在的条件下,对人类顾问的行为依赖可能随风险增加而减少(Lyons和Stokes, 2012)。在航空领域,自动化可以改善性能并降低工作负荷,同时也会改变飞行员对关键飞行仪表的监控(Causse等, 2025)。这些发现促使我们考察主观信任、建议一致性、模型估计的决策动态和视觉采样作为相关但不同的结果指标。

尽管已有这些洞见,大多数关于风险与信任—行为关系的现有研究依赖于低后果范式,如经济博弈、数值损失任务或判断模拟(Candrian和Scherer, 2022;Fahnenstich等, 2024;Lage等, 2019)。相比之下,航空进近和降落决策可能涉及严重后果且容错率极低。根据波音和空客最近发布的安全统计数据,尽管降落阶段仅占总飞行时间约1%,但在2015年至2024年间,它与不成比例的高致命事故份额相关(Airbus, 2025;Boeing, 2025)。这些特征表明,与航空相关的风险情境可能产生与传统实验室范式所观察到的不同的来源相关的行为模式和视觉采样模式。

现有研究通常在单一情境中考察对人类和AI决策支持的反应,或依赖相对粗糙的风险区分,如低风险与高风险。然而,情境风险可以跨越分级水平来表示,从安全和中等风险状态到高及极高风险条件。目前尚不清楚飞行员对人类和AI标注建议的相对反应是随风险逐步变化还是在风险达到极端水平时才出现。此外,大多数现有研究聚焦于建议之后的最终决策,对两阶段决策过程的关注较少。最后,先前的研究通常依赖于主观信任评分或显性行为结果,使得建议使用的决策过程和注意力相关因素不够清晰。为弥补这些空白,本研究整合了区块级别的主观信任评分、建议一致性测量、漂移扩散建模和眼动追踪。据此,我们假设情境风险将调节建议来源标注对飞行员建议一致性的影响。

**H1** 在非极端风险条件下(安全、中等风险和高风险),AI标注建议的建议一致性将低于人类标注建议。

**H2** 在极高风险条件下,AI标注建议的建议一致性将高于人类标注建议。

本研究因此考察了情境风险是否调节飞行员对以人类和AI来源标注方式呈现的相同预设建议在受控降落决策任务中的反应。通过保持建议内容恒定,该设计使得能够对人类和AI条件下进行受控比较——包括建议一致性、模型估计的决策动态和视觉采样——从而检验来源标注差异是否随情境风险水平而变化。

## 参与者

使用G*Power 3.1进行了先验功效分析以确定所需样本量。假设中等效应量(? = .25)、显著性水平α = .05以及期望的统计功效95%(1 - β),分析表明在重复测量方差分析设计中至少需要15名参与者。

本研究共招募了32名持证飞行员(Mage = 23.8岁,SD = 1.09)。所有参与者均积累了超过230小时的实际飞行和模拟器飞行经历。

## 降落率

降落率采用以来源标注、风险水平和决策阶段为被试内因素的重复测量方差分析进行分析。

分析结果显示来源标注存在显著主效应,F(1, 31) = 4.23, p = .048, ηp2 = .120;决策阶段存在显著主效应,F(1, 31) = 6.02, p = .020, ηp2 = .163;风险水平存在显著主效应,F(3, 29) = 552.24, p < .001, ηp2 = .983。采用Bonferroni校正的事后成对比较显示降落率……

## 讨论

本研究考察了情境风险如何调节飞行员对以人类和AI来源标注方式呈现的相同预设建议方案的决策反应。通过整合行为测量、漂移扩散建模和眼动追踪,本研究表明,人类和AI条件之间的差异在极高风险下最为明显,而非在各风险水平上均匀存在。这一模式表明行为显著性……

## 结论

本研究考察了情境风险如何塑造飞行员对以人类和AI来源标注方式呈现的相同预设建议的决策反应。来源标注效应并非在各风险水平上一致存在。在极高风险条件下,与人类条件相比,AI条件与更低的降落率、更高的建议一致性以及更倾向于将初始不一致的决策转向建议方向相关。来源标注与……

## CRediT作者贡献声明

彭星:原创草稿撰写、方法学、调查研究、研究经费获取、数据整理、概念构思。王祥:原创草稿撰写、形式分析、数据整理。张俊杰:资源、方法学。梁耀威:验证、监督、软件。江浩:验证、软件。杨家忠:审阅与编辑、研究经费获取。

## 利益冲突声明

作者声明不存在已知的竞争性经济利益或个人关系,这些因素可能影响本文所报告的工作。

## 致谢

本研究得到了中央高校基本科研业务费项目(26CAFUC04002;26CAFUC10005)以及四川省哲学社会科学一般项目(SCJJ25ND145)的资助。

彭星 | 王祥 | 张俊杰 | 梁耀威 | 江浩 | 杨家忠
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号