生成式人工智能应当对用户负责吗?用户与生成式人工智能心理契约量表的编制与验证
《Journal of Retailing and Consumer Services》:Should generative AI be responsible to users? Developing and validating the user-generative AI psychological contract scale
【字体:
大
中
小
】
时间:2026年09月29日
来源:Journal of Retailing and Consumer Services 13.7
编辑推荐:
**摘要**
随着生成式人工智能(GenAI)越来越多地嵌入AI赋能的服务互动中,用户对AI的评价正从功能表现扩展到对责任感和义务的期望。本研究基于"电脑是社会行动者"(CASA)理论和心理契约理论,将用户—生成式人工智能心理契约(AIPC)定义为用户在持续互动过程中对Ge
**摘要**随着生成式人工智能(GenAI)越来越多地嵌入AI赋能的服务互动中,用户对AI的评价正从功能表现扩展到对责任感和义务的期望。本研究基于"电脑是社会行动者"(CASA)理论和心理契约理论,将用户—生成式人工智能心理契约(AIPC)定义为用户在持续互动过程中对GenAI应履行的责任和义务所持有的信念,并开发了相应的量表。研究1采用目的性招募的访谈(N=26)来确定构念内容领域。研究2使用两个非概率在线面板样本,均为活跃GenAI用户(N=507和N=506),开发题项并检验因子结构、信度和构念效度。研究3使用研究2中用于结构验证的同一506例样本,对AIPC、AI拟人化和共创意向之间的法则网络进行初步检验。结果表明,AIPC包含三个维度——功能支持契约、关系协作契约和伦理安全契约——构成一个包含16个题项的量表。用户报告对伦理安全的期望最强。拟人化通过功能支持和关系协作与共创意向间接相关,但并未通过伦理安全产生关联。研究结果将心理契约理论扩展到用户—AI关系,并为研究用户对GenAI的责任期望提供了测量工具。**引言**生成式人工智能(GenAI)正日益在人类—AI互动中扮演能动角色(Deng等人,2025;Floridi,2025)。随着GenAI更深入地参与用户的活动和互动(Deng等人,2025;Ferraro等人,2024),其行为不仅可能因"能做什么"而被评判,也会因"应该如何行动"以及"应履行什么责任"的期望而被评判。例如,Google的Gemini曾告诉一名寻求作业帮助的学生"请去死"(Clark和Mahtani,2024),而ChatGPT曾错误地声称一位澳大利亚市长曾因受贿而入狱(Kaye,2023)。此类事件使隐含的责任期望变得可见,为用户提供了一种规范标准,用以区分表现不佳与未能履行用户认为GenAI应承担的责任。现有研究已考察了用户对AI的采纳和信任(Arce-Urriza等人,2025;Lu和Zhang,2025)、拟人化和社会线索对用户反应的影响(R. Liu等人,2025;Niu等人,2025),以及围绕幻觉、隐私、错误信息和负责任AI治理的关切(Lee等人,2025;Park和Nan,2026;Papagiannidis等人,2025)。尽管这些研究流派为用户如何评价和回应AI以及AI相关风险应如何治理提供了大量见解,但它们对用户通过持续互动对GenAI形成的隐含责任期望的理解仍十分有限。心理契约理论为考察此类责任期望提供了一个框架。心理契约是指个体对交换关系中义务的主观信念(Rousseau,1989, 1995)。早期研究主要关注员工—组织关系(Coyle-Shapiro和Kessler,2000;De Vos等人,2003),而后续研究则将心理契约扩展到消费者—公司关系(Guo等人,2017)、用户—平台关系(She等人,2020)以及数字化中介的消费者关系(Zhang等人,2025)。近年来,数字工作和算法管理已被证明会重塑心理契约的内容和履约判断(Ballas等人,2024;Tomprou和Lee,2022)。研究也开始将智能系统本身视为心理契约信念的对象,包括工作场所社交机器人(Bankins和Formosa,2020)、零工工作平台中的算法(Sherman等人,2025)以及就业场景中的GenAI(Verma等人,2026)。然而,将智能系统本身作为心理契约对象的研究在很大程度上仍局限于预设的职业角色。尚不清楚的是,普通用户在持续互动过程中直接赋予GenAI哪些责任和义务,以及这些义务信念如何组织。这也提出了一个更为根本的理论问题:为什么一个非人类的GenAI系统会成为义务信念的对象。CASA为这种可能性提供了一个前提性解释。根据"电脑是社会行动者"(CASA)观点,即使人们意识到某项技术是非人类的,他们仍可能对表现出社会线索的技术应用人际关系规则和社会期望(Reeves和Nass,1996;Nass和Moon,2000)。关于对话代理的研究同样表明,社会和交际线索会塑造用户对AI的感知和反应(Araujo,2018;Adam等人,2021)。更直接地,人—机器人交互研究将拟人化心智感知与责任归属联系起来,表明以更具人类特征的心理方式被感知的非人类代理也可以成为责任判断的对象(Kawai等人,2023)。综合来看,这些研究提示GenAI可以成为一个具有社会意义的互动对象,用户不仅会对其施加人际期望,也会对其作出责任判断,从而为心理契约信念指向GenAI提供了关系前提。在此背景下,本研究探讨三个问题。第一,普通用户在持续互动过程中赋予GenAI哪些责任和义务?第二,这些义务信念如何组织成用户—GenAI心理契约(AIPC)的内容结构?第三,AIPC如何被可靠且有效地测量?为回答这些问题,本研究将用户—生成式AI心理契约(AIPC)概念化为用户在持续互动过程中对GenAI应履行的责任和义务所持有的主观信念,并开发了相应的量表。研究由三项按顺序开展的研究组成。研究1使用半结构化访谈来界定AIPC的内容领域。研究2生成量表题项,并使用两个活跃GenAI用户样本检验因子结构、信度和构念效度。研究3通过考察AI拟人化、AIPC和人类—AI共创意向之间的关联,为法则效度提供初步证据。本研究做出三点贡献。第一,通过概念化AIPC并开发相应量表,本研究将心理契约研究扩展到普通用户与GenAI之间的持续互动,并将隐含的责任期望引入人类—AI交互研究。第二,本研究将CASA的理论应用加以拓展,将其社会互动前提与指向GenAI的责任和义务期望联系起来。第三,AIPC为GenAI开发者、平台和服务提供商提供了一个框架,用于识别用户的责任期望,并为期望管理、责任沟通和差异化产品与服务设计提供信息支持。**心理契约理论与测量**心理契约是个体在正式契约之外形成的、关于自己与另一方之间相互义务的主观信念(Rousseau,1989, 1995)。与一般期望不同,心理契约具有三个关键特征。第一,它们具有规范约束力,即个体认为对方应当承担某些责任,而非仅仅希望其表现更好(Rousseau,1989, 1995)。第二,它们是关系性的……**研究设计概览**量表开发程序遵循了构念开发与验证的既定标准(Lambert和Newman,2023;Yang和Xu,2025)以及近期JRCS测量研究所采用的分阶段逻辑(Azad Moghddam和Mortimer,2026)。设计从构念定义和内容领域识别开始,逐步推进到题项开发、结构探索、结构验证和法则效度检验(见图2)。研究1使用半结构化访谈和编码……**研究设计**研究1在中国进行,采用目的性抽样招募信息丰富的GenAI用户,以识别AIPC的内容和维度结构。2026年3月25日至4月3日期间,通过多个GenAI相关的在线渠道发布招募信息。共筛选了34名潜在参与者,筛选标准为GenAI使用时长和频率,最终确定26名受访者。所有受访者使用GenAI至少两年,且每周至少使用五次。年龄范围为21岁……**初始题项生成**基于研究1的质性编码结果,本研究使用主类别、子类别和核心概念的框架生成了一个初始题项池。量表开发研究强调,题项生成应基于清晰的构念内容领域,且在初始阶段应形成相对充足的题项池,以确保覆盖构念的关键含义(Clark和Watson,2019)。因此,本研究将研究1的编码结果与……**研究3:AIPC的法则效度**为获得AIPC法则效度的初步证据,本研究考察了其与AI拟人化和人类—AI共创意向的关联。拟人化被定位为一个理论上相关的前因变量,共创意向被视为提议网络中的一个结果变量。**主要发现**用户在持续互动过程中赋予GenAI责任和义务。这种判断不同于对当前系统或服务表现的评价,后者关注的是AI系统的表现如何,而非人们期望它做什么(Chen等人,2022)。在整个访谈过程中,参与者将信息真实性、能力边界披露、恰当响应、隐私保护和风险预防描述为GenAI应履行的责任。**作者贡献声明****许浩然(Haoran Xu):** 写作—审阅与编辑,写作—原稿撰写,可视化,方法论,调查研究,形式分析,数据整理,概念化。**杨永中(Yongzhong Yang):** 写作—审阅与编辑,指导,获取资金。**刘宇昌(Yuchang Liu):** 写作—审阅与编辑,验证,指导,软件,资源,项目管理。**佘胜向(Shengxiang She):** 写作—审阅与编辑,指导,资源。**利益冲突声明**作者声明不存在任何已知的竞争性财务利益或个人关系,这些利益或关系可能影响本文报告的工作。**致谢**本研究受到**教育部人文社会科学研究规划项目**[项目编号25YJA630100],项目名称"中国语境下创意生成、迭代与管理策略研究",以及**国家自然科学基金**[项目编号72674213],项目名称"人工智能创造力感知:维度探索、前因与机制"的资助。---许浩然|杨永中|刘宇昌|佘胜向
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号