《Technovation》:Navigating personal control: AI augmentation and its impact on decision-making
编辑推荐:
AI介入并非自动化(automation)与增强(augmentation)的二元区分,而是连续梯度。任务中高AI介入会降低感知个人控制(personal control, PC),而低至中等AI介入可维持与无AI时相近的PC水平。感知责任(perceived
AI介入并非自动化(automation)与增强(augmentation)的二元区分,而是连续梯度。任务中高AI介入会降低感知个人控制(personal control, PC),而低至中等AI介入可维持与无AI时相近的PC水平。感知责任(perceived responsibility)在AI介入与PC间起中介作用。个人控制(PC)的削减阈值位于增强区间内部,而非进入完全自动化(full automation)的边界。保持人在回路(human-in-the-loop)并不必然维持PC,尤其在AI执行解决方案时。该研究将分析型AI(analytical AI)置于控制理论(Control Theory)框架中,采用被试内在线实验考察装箱类决策任务,证明AI介入程度会通过责任归属改变个体的自我调节反馈回路;控制削减发生在增强阶段中AI承担输入功能(input function)与输出功能(output function)之后。研究对组织部署人本AI(human-centred AI)、设计决策支持系统及维护劳动者能动性具有理论与管理含义。
研究背景方面,组织正广泛引入人工智能(artificial intelligence, AI)以提升制造、调度与判断类任务效率。既有文献多把AI当作替代人力的自动化(automation)端点,忽视增强(augmentation)区间内AI介入程度差异对劳动者心理的影响。控制理论(Control Theory)把行为看作由目标、当前状态、比较器和校正行动构成的负反馈回路,包含目标设定(goal setting)、输入功能(input function)、反馈解释(feedback interpretation)与输出功能(output function)四个调节阶段;个人控制(personal control, PC)指个体影响任务、环境与结果的主观能力。当AI学习、适应并直接生成推荐或执行方案时,传统信息技术的被动属性被打破,人机边界模糊,可能削弱劳动者在反馈回路中的实质参与。现有研究很少在增强区域内按AI介入梯度实证检验PC,也少有研究同时纳入感知责任(perceived responsibility)与控制点(Locus of Control, LOC)这类心理机制与个体差异,因此研究人员开展本研究以填补该空白。
研究人员采用定量、被试内(within-subject)在线实验,让参与者完成可变箱容装箱问题(variable-sized bin-packing problem, VSBPP),并设置低、中、高三种处于增强区域的AI介入水平:低介入对应AI生成多个可行解,人保留四阶段调节;中等介入对应AI提出单一全局解,介入目标设定与输入功能;高介入对应AI提出并执行方案,人退化为事后批准,但仍至少在反馈解释等核心阶段保留参与,因此仍属augmentation而非full automation。因变量为PC,机制变量为perceived responsibility,调节变量为LOC。研究人员以控制理论解释AI如何位移控制回路阶段,并检验H1主效应、H2中介效应与H3调节效应。
主要关键技术方法方面,研究使用网页端被试内实验,任务为NP难的可变箱容装箱问题(variable-sized bin-packing problem, VSBPP),AI支持工具基于离线算法并结合OR-Tools与Firebase实现推荐与后端管理;通过低、中、高三种AI介入配置操纵控制回路中的目标设定、输入功能、反馈解释与输出功能参与程度;使用标准量表测度个人控制(PC)、感知责任(perceived responsibility)与控制点(Locus of Control, LOC),并采用被试内设计提高统计功效、控制个体异质性。
研究结果方面:
AI involvement and Personal Control部分,研究人员提出H1:增强情境中AI执行任务的程度越高,个体对任务的PC越低。原文强调AI介入不是有无问题,而是连续梯度;当AI仅提供信息或多个方案时,人仍主导四阶段调节,PC得以维持;当AI在多个阶段同时介入,尤其承担输入功能(input function)与输出功能(output function)时,自身行动与结果间因果链变弱,PC下降。
Personal Control & responsibility部分,研究人员提出H2:AI介入通过perceived responsibility负向影响PC。责任指员工对工作和结果的主人翁感受,不同于向外解释的问责(accountability)。随AI推荐更强、更不透明、更难推翻,个体把结果归因给系统,责任感下降,参与偏差检测与校正行动的动机减弱,从而侵蚀PC。
Personal Control & Locus of Control部分,研究人员提出H3:LOC调节AI介入与PC的关系。内控者(internals)相信事件由自身行为决定,对控制受损更敏感,倾向把AI当作扩展信息与分析能力的工具;外控者(externals)倾向认为事件由机会或外部力量决定,面对AI增强更易感到结构被打破、焦虑与无力。因此AI介入对PC的负面关系在externals下更强,在internals下较弱。
讨论与结论部分,研究人员指出AI介入应被理解为控制回路阶段的可梯度位移,而非简单的“人在回路”或“系统替代”。低和中等AI介入可维持PC,高介入虽仍在augmentation定义内,却可能因AI执行方案而使人沦为形式批准者,导致PC下降。perceived responsibility是核心心理机制:若人不再感到对结果负责,自我调节反馈回路虽名义存在,实质已被削弱。LOC决定个体如何解释AI介入,internals更可能重获或保持控制感,externals则更易失控。
研究结论可译为:AI介入沿连续梯度存在,而非自动化与增强的二分。任务中高AI介入降低感知个人控制(PC),低与中等AI介入维持与无AI相当的PC。感知责任(perceived responsibility)中介AI介入与PC之间的关系。个人控制(PC)的削减阈值位于增强区间内部,而不在转向完全自动化(full automation)之处。保持人在回路(human-in-the-loop)并不必然保全感知个人控制,尤其是当AI执行解决方案时。该研究将人机协作文献从二元框架推进到梯度框架,并为组织部署分析型AI(analytical AI)、设计可解释和可否决的人本AI(human-centred AI)提供理论依据。