《Developments in the Built Environment》:Human-AI trust for safer heavy-duty equipment management: Insights from socio-technical literature review and interviews
编辑推荐:
重型设备管理日益依赖于集成传感器和数字孪生(Digital Twins, DTs)的人工智能(Artificial Intelligence, AI)赋能的网络物理系统(Cyber-Physical Systems, CPSs)以提高安全性、效率和可持续性。尽
重型设备管理日益依赖于集成传感器和数字孪生(Digital Twins, DTs)的人工智能(Artificial Intelligence, AI)赋能的网络物理系统(Cyber-Physical Systems, CPSs)以提高安全性、效率和可持续性。尽管取得了技术进步,现场部署仍然有限,这表明采用障碍更多地是由智能系统、组织流程和人类决策之间的社会技术不匹配(Socio-Technical Misalignment)所驱动,而非算法能力。因此,人类与智能系统之间的信任决定了自动化是否能带来运营收益。研究人员使用文献计量映射(Bibliometric Mapping)和主题综合(Thematic Synthesis)方法,综合了来自建筑、物流和车队管理领域的90篇论文和4次专家访谈。尽管范围跨领域,但证据基础以建筑为主,并为更广泛的设备管理提供了可转移的见解。在社会技术系统(Socio-Technical Systems, STS)和关系性信任自动化(Relational Trust-in-Automation)理论的指导下,研究人员确定了五个社会技术支柱:人-技术交互(Human-Technology Interaction);劳动力适应(Workforce Adaptation);数据质量、整合与稀缺(Data Quality, Integration, and Scarcity);不确定性下的决策(Decision-Making under Uncertainty);以及运营效率(Operational Efficiency)。在这些支柱中,AI赋能系统部署的反复出现的制约因素包括监视感知、拖车电力/连接限制以及碎片化的制造商门户网站,从而激发了一个以信任为中心的框架。
重型设备(如挖掘机、起重机、卡车)的管理正在向集成传感器、物联网和数字孪生的网络物理系统转变,旨在提升安全性、效率和可持续性。然而,现场部署仍显不足,这主要源于社会技术不匹配:智能系统、组织流程与人类决策之间的脱节,而非算法能力所限。信任在人机协作中起核心作用,决定了自动化能否带来运营收益。为系统理解信任在AI赋能设备管理中的机制,研究人员开展了本项研究,发表在《Developments in the Built Environment》。研究通过系统文献综述和专家访谈,构建了以信任为中心的社会技术框架,揭示了技术部署中的关键制约因素,并为设计可信任的协同适应系统提供了指导。
本研究采用双阶段设计。首先,研究人员在Scopus、Web of Science和IEEE数据库中进行系统文献检索,经过标题、摘要筛选及手动核查,最终纳入90篇高度相关的论文。随后,与四名分别来自重型车辆传感、检查服务、运输车队管理和建筑设备维护领域的行业专家进行半结构化访谈,以验证和补充文献发现。数据通过VOSviewer进行文献计量映射和主题综合分析,识别出五个社会技术支柱及其相互作用规律。
研究结果包含五个主题支柱:
人-技术交互与信任: 通过综述计算机视觉检测、数字孪生集成、认知工效学及信任透明度等研究,发现自动化只有在人类保持认知参与时才能提升安全,交互设计与直觉性界面、可解释性及数据治理共同决定信任建立。
劳动力与组织适应: 通过分析角色模糊、跨层级协调、监督质量及激励机制等文献,表明组织适应比技术能力更关键,信任取决于角色清晰、沟通有效和激励对齐,而技术能力并非唯一制约因素。
数据质量、整合与稀缺: 通过研究数据采集保真度、平台治理、标签稀缺及多传感器融合,发现数据质量是社会技术成就,需通过边缘-云拆分、决策链接的质量门及可见的不确定性指标来确保可信任的决策支持。
不确定性下的决策与混合建模: 通过混合模型(数据驱动与物理模型结合)和多准则决策等研究,表明不确定性应通过透明、可解释的混合框架进行管理,而非消除;人机协同中的信任依赖于可解释性、情境校准和实时反馈。
运营效率与生命周期管理: 通过运营监控、预测性维护和组织级优化研究,表明效率取决于数字系统与人类判断的协调,以及数据互操作性;生命周期收益需要在技术、组织与人员协同演化中实现。
讨论部分综合了文献与访谈的对比,指出技术层(预测算法、计算机视觉)、组织社会层(信任、培训、隐私)和系统层(法规、互操作性、经济)三个分析层面。实践者视角强调数据治理、隐私担忧、成本可行性和培训需求,揭示了学术原型在现实中面临的社会不确定性。跨源比对表明,部署失败常源于治理、运营可行性而非技术性能。信任是一个动态的社会技术过程,需要清晰的责任机制和透明的数据治理来维持。
结论部分翻译如下:传感器、远程信息处理和AI赋能数字孪生技术的不断集成正在将重型设备管理重塑为人类与智能系统之间的持续伙伴关系。本综述审视了90篇同行评审论文和四次专家访谈,跨越建筑、物流和车队运营领域,以理解信任如何塑造这一不断演变的协作。主题综合识别了五个相互关联的领域:人-技术交互与信任、劳动力与组织适应、数据质量、整合与稀缺、不确定性下的决策以及运营效率与生命周期管理,共同解释了安全、效率和可持续性如何在现代设备运营中涌现。在这些领域中,信任始终充当连接技术能力与人类信心的反馈核心。本研究做出三项关键贡献。首先,将重型设备管理重新定义为以信任为中心的社会技术系统,其中有效绩效取决于人类与技术能力之间的持续互动,为组织提供了诊断采用失败(超越纯技术限制)的视角。其次,凸显了人类认知能力与技术复杂性之间的差距,作为当前AI和数字孪生框架中的关键弱点,为指导组织设计更符合人类决策的界面、工作流和培训提供了指引。第三,引入基于OODA的模型,将信任置于观察、定向、决策和行动的中心,将数据可靠性、人类理解与组织适应连接为一个连续反馈循环,组织可利用此模型构建面向数据驱动安全与维护决策的治理、反馈和问责结构。