打开黑箱:算法透明度对航空AI驾驶舱助手飞行员学习性信任的影响

《Ergonomics》:Seeing inside the black box: Effects of algorithmic knowledge on system trustworthiness in aviation

【字体: 大 中 小 】 时间:2026年10月22日 来源:Ergonomics 2.8

编辑推荐:

  自动化在过去七十年中塑造了飞机设计,从完全手动控制转向高度自动化系统。尽管如此,飞行员仍对安全关键决策保留最终权威,这要求持续的信任校准(trust calibration)。本研究考察算法透明度(algorithmic transparency)如何影响飞行

  
自动化在过去七十年中塑造了飞机设计,从完全手动控制转向高度自动化系统。尽管如此,飞行员仍对安全关键决策保留最终权威,这要求持续的信任校准(trust calibration)。本研究考察算法透明度(algorithmic transparency)如何影响飞行员对基于人工智能(AI)的驾驶舱助手的学习性信任(learned trust)。二十一名商业飞行员被随机分配到早期透明度条件(early transparency condition;在教程前提供关于AI算法和性能的详细说明)或晚期透明度条件(late transparency condition;在实验后提供相同信息)。每名飞行员在教程(tutorial)和真实感模拟飞行(realistic simulated flight)中使用该助手。混合效应有序模型(mixed-effects ordinal models)显示,与晚期透明度组相比,早期透明度组在教程和飞行期间的信任评分更高,且两阶段之间的信任增幅更大。总之,向飞行员及时、清晰地提供关于AI过程的信息可适度提高信任并支持校准化依赖(calibrated reliance)。

实践者摘要(Practitioner Summary):调查在飞行员与基于AI的驾驶舱助手交互前提供算法解释是否会提高信任。采用混合设计实验(mixed-design experiment),以21名Airbus飞行员为对象,在教程和飞行阶段比较早期与晚期透明度。发现早期透明度提高了初始信任与动态信任(initial and dynamic trust),尤其在易用性(ease-of-use)方面。

关键词(Keywords):人机自动化协同(Human automation teaming);透明度(transparency);算法(algorithms);信任(trust);航空(aviation);飞行员(pilots);人工智能(artificial intelligence)。
研究背景方面,自动化在过去七十年中塑造了飞机设计,从完全手动控制转向高度自动化系统。当前第四代玻璃驾驶舱可承担多数航空与导航任务,但飞行员仍对驾驶舱决策拥有最终权威,并对基于决策所采取行动的结果负责,因此需要持续的信任校准(trust calibration)。人工智能(AI)尚未进入飞机,欧洲航空安全局(EASA)正在制定AI辅助与认证框架。AI系统多呈黑箱特征,不一定遵循可明确记录的规则,其分析和建议所依据的计算并不总是对人类显而易见;飞行员若不能理解AI结果并基于可用信息进行验证,其信任在采纳或忽略AI建议中具有关键作用。透明度(transparency)指提供关于AI系统内部工作、数据来源和决策逻辑的可理解信息,可降低不确定性和黑箱问题。Hoff and Bashir的信任框架将信任视为多层结构,其中学习性信任(learned trust)受既有知识及交互中系统性能、设计特征和使用意向影响;已有实验显示算法解释可提高信任与接受度。当前研究据此检验AI驾驶舱助手的算法透明度(algorithmic transparency)对飞行员学习性信任的影响,并控制情境信任(situational trust)因素,假设在交互前提供算法解释会提高信任。该工作将透明度—信任文献扩展至AI辅助航空领域,并量化跨任务时间线的信任演变。

研究人员开展了一项2(透明度:早期与晚期)×3(特征:滑行、巡航、进近)×2(研究阶段:教程、飞行)混合设计实验。21名具有Airbus型别等级的飞行员被随机分配至早期或晚期透明度条件;在早期透明度条件中,飞行员在教程前获知AI算法、功能依赖性和准确率等内部细节,晚期条件则在实验后提供相同信息。每名飞行员在教程和真实感模拟飞行中使用助手。混合效应有序模型显示,早期透明度组在教程和飞行期间的信任评分高于晚期组,且两阶段间信任增幅更大。摘要结论认为,向飞行员及时、清晰地提供AI过程信息可适度提高信任并支持校准化依赖(calibrated reliance);该研究对AI辅助航空的人因设计与信任校准具有意义。

关键技术方法(≤250字):作者在Airbus A321平板驾驶舱模拟器(X-Plane 11)中开展2(透明度:早期/晚期)×3(特征:滑行、巡航、进近)×2(阶段:教程、飞行)混合设计实验。样本为21名具有Airbus型别等级的Commercial pilots(商业飞行员;6名机长、15名副驾驶;平均年龄40岁,平均飞行小时7657),随机分配至早期或晚期透明度条件。研究测量情境信任与学习性信任指标;采用混合效应累积连接模型(mixed-effect cumulative link models)分析,纳入飞行小时和风险协变量及参与者随机截距,并进行1000次非参数Bootstrap敏感性分析、ANOVA Type III与Tukey事后检验。

研究结果如下:

透明度操纵是否成功?通过教程后对感知自身专业知识和解释需求进行操纵检查(manipulation check),并采用累积连接模型分析。模型(Cond. R2=0.425,Marg. R2=0.312)显示透明度主效应(早期高于晚期)、特征主效应(Taxi高于Approach)、Approach风险主效应(高风险与较低得分相关),以及透明度与维度交互(感知自身专业知识比解释需求受更强影响)。该模型用于检验透明度操纵是否产生可检测差异,并显示效应受特征、风险与维度调节。

透明度是否与更高信任相关?通过教程飞行和实验飞行两个阶段的信任问卷,以混合效应累积连接模型分析。教程模型(Cond. R2=0.429,Marg. R2=0.302)显示早期透明度信任评分高于晚期,可预测性高于可靠性,Cruise高于Taxi和Approach,Cruise与Approach高风险与较低评分相关。实验飞行模型显示早期透明度高于晚期;易用性高于可靠性和沟通风格,可预测性和沟通风格高于可靠性;Cruise高于Taxi和Approach;飞行小时更多与更高信任相关;Cruise高风险与较低评分相关;并见透明度与维度交互(易用性的透明度效应最强)及维度与特征交互。结论为透明度与更高学习性信任相关,且存在维度与特征差异。

交互过程中透明度是否与信任变化相关?通过比较实验飞行与教程的信任差值,以累积连接模型分析。模型(Cond. R2=0.511,Marg. R2=0.462)显示教程分数较低与更大信任变化相关;早期透明度比晚期有更高信任增长;可预测性比可靠性增长更高;Taxi和Cruise比Approach增长更高;飞行小时更多与更高信任评分相关;Cruise和Approach高风险与较低评分相关。结论为早期透明度与交互过程中更大的信任增长相关。

讨论部分总结:透明度在本研究中被操作化为提供AI算法、功能依赖性和已知性能指标等内部细节的时机。早期透明度提高了教程后和飞行后的信任,并使教程到实验飞行的信任增长显著大于晚期条件;Bootstrap敏感性分析显示参数估计高度稳定。原文据此支持早期了解助手工作会加强整个任务期间信任的假设。在信任框架中,所提供的准确性、完整性、性能细节对应目的/善意与能力/诚信维度;早期披露技术细节为评估系统能力提供基础,过程完整性信息可降低黑箱怀疑,目的/善意信息可提高教程后信任。早期组从教程到飞行的更大增长可解释为信任巩固:早期形成对准确性、错误率和决策逻辑的期望,飞行中实际行为确认期望,产生正向确认效应并强化信任;晚期组则需先形成模糊图景,可能仅能回溯修正。原文还提出早期透明度可降低内在与外在认知负荷,使飞行员将释放的资源用于评估系统性能。信任还受特征与飞行阶段影响,稳定低负荷阶段如巡航的依赖更高,进近和着陆等动态阶段更谨慎,信任是多面且功能特异的;感知风险降低与信任增加相关,高风险可导致不信任或弃用;飞行小时更多与更高信任相关,但飞行小时与年龄高度相关(r(20)=0.88,p<0.001),未来需区分经验、年龄与信任。未来研究方向包括明确所需信息类型、分离过程透明度与性能透明度、检验早期透明度是否降低自动化偏差(automation bias)而不牺牲适当依赖,以及纳入系统实际可信度和行为依赖指标。实践上,原文建议早期提供解释、利用飞行员经验、降低感知风险并采用可解释AI(explainable AI)。局限包括模拟器不能完全复现真实航空压力、仅测量一次教程和一次实验飞行、飞行阶段被合并、各特征功能与界面及算法不同且呈现顺序固定、人工单飞行员设置可能影响信任发展。

研究结论(翻译):早期、分阶段的算法透明度显著提高了飞行员对AI驱动助手的情境信任与学习性信任,表现为教程后、飞行后信任评分更高,以及两阶段间信任增益更大。该效应在易用性上最强,并在飞行小时更多的飞行员中放大,表明详细解释易整合入既有心智模型(mental models)。这些发现提示,包含分层技术解释的飞行前简报应成为驾驶舱AI培训的标准要素,以促进校准化依赖。未来工作应检验自适应、工作负荷感知透明度(workload-aware transparency),并将方法扩展至双机组设置(dual-crew settings),以确认其在运行航空中的稳健性。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号