《TECHNOLOGY IN SOCIETY》:User-Perceived Ethical Compliance of Artificial Intelligence: Scale Development and Validation
编辑推荐:
•人工智能伦理通过用户对道德行为的感知加以考察。•UPEC-AI提供了一个涵盖五个伦理领域的人本度量工具。•独立验证支持了UPEC-AI的高阶结构。•UPEC-AI与信任及采纳相关评价之间存在准则相关联系。引言随着人工智能(AI)系统在自主性和后果性方面承担越来越重要的角色,
- •
人工智能伦理通过用户对道德行为的感知加以考察。
- •
UPEC-AI提供了一个涵盖五个伦理领域的人本度量工具。
- •
独立验证支持了UPEC-AI的高阶结构。
- •
UPEC-AI与信任及采纳相关评价之间存在准则相关联系。
引言
随着人工智能(AI)系统在自主性和后果性方面承担越来越重要的角色,用户对这些系统的能力及其行为是否可接受越来越关注。有关智能型信息系统的研究表明,利益相关者在决定是否委派任务时,会在伦理考量与效用之间进行权衡,并通常更倾向于人工监督而非完全自主(Saeed & Prybutok, 2026)。因此,技术性能与形式合规可能不足以确保用户接受。只有当伦理原则在系统行为中得到体现时,它们对用户才有意义。
用户基于可观察的线索形成这些判断。感知公平性和透明度与信任相关评价相关联(Shin & Park, 2019; Zerilli et al., 2022),而在AI辅助医疗中,可解释性和感知数据隐私与采纳意愿相关联(Bian et al., 2026)。这些评价与信任有关但相互独立。Everett等人(2026)区分了可信任性、信任和信任行为,并认为对AI的信任应当被校准而非简单地增加。用户很少能直接获取技术保障措施或制度合规信息;因此,他们从有限的交互和界面线索中推断AI的能力、正直和善意意图(Mayer et al., 1995; McKnight et al., 2002; Glikson & Woolley, 2020; Sundar & Kim, 2019)。因此,AI伦理通过感知产生实际影响:用户回应的是(i)一个系统是否在伦理上被设计,以及(ii)其行为是否在伦理上可接受。尽管如此,现有文献仍然碎片化。多项研究聚焦于单一的伦理关切,如公平性或隐私,而非用户在多个领域的广泛评价。经验证的用户对AI伦理的整体感知度量工具有限,伦理感知通常作为信任或采纳模型中的次要变量被纳入,而非被独立地理论化和测量。
用户对AI伦理合规的感知(UPEC-AI)捕捉了用户基于交互经历对AI行为的整体评价。与制度性或技术性合规不同,本研究的量表通过安全性、透明度、可信任性、可控性和问责性来呈现这些主观判断。这些领域可以分别评估,其共享成分也可表示为一个整体性的二阶评价。UPEC-AI建立在强调人权、公平、隐私和责任的治理框架之上。它聚焦于这些原则在人机交互中被体验的机制。因此,UPEC-AI为考察感知伦理与信任相关评价之间的关联提供了以用户为中心的基础。
本研究分为三个阶段进行:(i)通过受扎根理论启发的程序进行深入访谈,揭示用户在使用AI过程中产生的伦理关切;(ii)通过专家审查、探索性因子分析和验证性因子分析来开发和评估UPEC-AI量表;(iii)通过最终的结构性方程模型来考察UPEC-AI与AI信任及采纳相关评价之间的关联,作为准则相关效度的证据。
章节摘要
从制度性AI伦理到用户感知伦理
早期关于AI伦理的研究主要关注技术安全、系统控制和风险预防(Bostrom, 2014)。随着AI进入医疗、教育、公共服务和商业决策等领域,讨论扩展到公平、透明、人的尊严和问责性。经合组织(OECD)、欧盟委员会人工智能高级别专家组以及联合国教育、
方法
量表开发遵循Hinkin(1998)以及DeVellis和Thorpe(2021)所述程序。研究包括定性探索、题目生成、认知预测试、专家审查、探索性因子分析、验证性因子分析和准则相关效度检验。
UPEC-AI量表的准则相关效度
在评估UPEC-AI的内部结构后,我们考察了该量表与理论上相关准则之间的关联。准则相关效度关注一个测量工具与理论上相关的外部准则之间的关联程度,是量表评估的重要要素(Hinkin, 1998; DeVellis & Thorpe, 2021)。
用户对AI系统伦理合规的评价可能影响其对价值一致性、信任以及使用该系统的意愿的评估。
研究结果总结
我们通过定性分析和三个定量样本开发和评估了UPEC-AI。独立的验证性因子分析支持了五因素和二阶结构,尽管安全性显示出0.4639的平均方差抽取值,可控性的α系数为0.694,问责性为0.693。区分效度证据也参差不齐:在准则相关样本中,可控性和问责性在HTMT下并非截然不同的(0.919),但将它们合并后在独立的验证性因子分析样本中拟合更差。该
CRediT作者贡献声明
王逸璇: 撰写——审阅与编辑,形式分析。李沁: 撰写——审阅与编辑,撰写——初稿,方法论,形式分析,数据整理。陈晓晓: 撰写——审阅与编辑,撰写——初稿,方法论,形式分析,数据整理,概念构思
知情同意
本研究所有参与者均获得了知情同意。参与者签署了关于其数据发布的知情同意书。
利益冲突
所有作者声明,他们与本手稿中讨论的主题或材料存在任何财务利益或非财务利益的组织或实体之间没有任何关联或参与。
伦理审批
本研究已获得成都锦城学院机构审查委员会的批准。本研究使用的程序遵循《赫尔辛基宣言》的原则。
数据
本研究期间产生或分析的所有数据均已包含在已发表的文章中[及其补充信息文件中]。
作者使用AI工具的声明
在手稿准备过程中生成式AI和AI辅助技术的声明
在本手稿准备过程中,作者使用了ChatGPT(OpenAI)来协助翻译和措辞检查。该工具未被用于生成科学内容、分析数据、解释结果或得出结论。所有实质性修改和最终措辞均由作者审阅和批准,作者对手稿承担全部责任。
利益冲突声明
? 作者声明,他们没有已知的竞争性经济利益或个人关系可能影响本论文中报告的工作。
陈晓晓|王逸璇|李沁