《Addictive Behaviors Reports》:Emotional attachment and problematic involvement with socially interactive AI: A critical narrative review of embodied and conversational systems
编辑推荐:
用户报告称与社交互动型AI建立了有意义的关系。具身化与技术架构需要分开分析。喜欢、信任、依恋和依赖是不同的构念。现有证据尚不能确定一种独立的行为成瘾。横断面研究无法解决因果关系或社会替代问题。
用户报告称与社交互动型AI建立了有意义的关系。具身化与技术架构需要分开分析。喜欢、信任、依恋和依赖是不同的构念。现有证据尚不能确定一种独立的行为成瘾。横断面研究无法解决因果关系或社会替代问题。
论文解读文章
研究背景与问题提出
随着社交互动技术的快速发展,从物理具身化的机器人在实地和护理中的应用,到语音助手、脚本化社交聊天机器人,再到基于大型语言模型(LLM)的混合机器人咨询系统,人们开始为这些系统命名,并向其倾诉从未告诉他人的事情。一些人将其描述为朋友或伴侣,并在访问被撤销时感到沮丧。这类报道引起了心理学、人机交互、传播学、医疗保健和伦理学等领域的广泛关注,提出了真实的临床和伦理问题。然而,这并不意味着每一次热情回应、每一次持续互动或每一个重度用户都应被视为依恋或成瘾的标志。
当前文献中存在两个重要的异质性来源被忽视:一是具身化,即能够共享物理空间并可被触摸的机器人提供了纯文本聊天机器人无法提供的线索;二是技术架构,远程操控的现场机器人、基于传感器的陪伴机器人、脚本化对话管理器以及基于LLM的应用在生成灵活性、上下文敏感性和应用层连续性方面存在显著差异。此外,概念区分同样至关重要:依恋理论中的依恋并非喜欢或参与的同义词,它表现为稳定纽带内的四种功能——寻求亲近、在痛苦时将依恋对象作为安全港湾、将其作为探索的安全基地、以及分离时的痛苦。情感依赖和问题性使用也需要被区分开来:情感依赖是指个体依赖某个系统进行情绪调节、获得安慰或维持日常功能,只有当伴随控制受损、优先级上升、明知有害仍持续、冲突、真实痛苦或功能损害时,才具有临床意义。
基于此,研究人员提出了四个核心问题:用户与具身化和软件系统报告了哪些关系体验?实际测量或描述了哪些构念,而非仅仅假设?一旦将具身化和暴露期间使用的架构分开考虑,研究结果有何不同?有哪些证据表明存在控制受损、伤害和功能损害,而不仅仅是参与度?
研究方法概述
本研究采用批判性叙事综述设计,在Grant和Booth的分类体系中超越了单纯的描述性综述,对文献进行评估并以模型或假设收尾。研究分两个阶段进行:第一阶段由一名研究人员通过结构化多数据库检索收集文献,使用术语模块和布尔逻辑进行筛选;第二阶段对所有纳入来源进行核对、编码和评估,并于2026年7月进行了可重复的补充检索。最终重建了一个包含12篇主要实证报告的非穷尽性语料库。研究人员采用了多种方法论评估工具:针对随机估计值使用Cochrane偏倚风险工具(RoB 2),针对定性研究和分析性横断面调查使用JBI检查表,针对混合方法研究使用混合方法评估工具(MMAT)。合成采用框架引导的主题综合原则,在演绎组织结构内进行。
研究结果
3.1 语料库构成与源验证特征
重建的证据基础包括12篇主要实证报告和7篇背景来源。主要报告涵盖定性访谈研究、横断面调查、随机试验和实验以及混合方法田野研究。在具身化维度上,三项研究了物理具身化机器人,一项使用了预录的机器人视频,八项研究了纯软件系统。在架构维度上,一个系统是远程操控的,一个是基于传感器的,一个结合了治疗脚本、传统对话平台和LLM生成的回复,一个使用了无实时对话的预录刺激,两个是生成式LLM应用,六个是具有未指定或不断变化的商业后端的平台。
3.2 主观上有意义的关系体验
在12篇主要报告中,用户确实有时赋予人工系统社会或个人意义。军事人员为其野外机器人命名并将其视为团队或家庭成员,特定机器人的损坏会令他们沮丧。在一项小型随机试验中,养老院居民与PARO说话并触摸它,其孤独感相对于正常活动有所下降,但依恋未被直接测量。Replika用户描述了自我披露、陪伴、自我反思、感知到的支持以及一些持久的角色关系。没有任何单一的心理框架能完全解释这些观察结果。
3.3 拟人化、社会临场感与关系可供性
拟人化归因可能促进依恋,但本身并不足够。在一项在线研究中,机器人的外观或框架并未改变共情相关的结果。感知到的意识和人类相似性与更积极的态度和更大的感知社会健康益处相关联,但由于是自选用户组与非用户的假设性回答进行比较,无法得出因果推论。跨报告阅读发现,关系可供性包括连续性、快速响应、非评判性的自我披露、个性化语言和感知到的可用性。具身化系统增加了共享空间、定向、触觉、感觉运动偶发性和关怀或任务常规。
3.4 前LLM先驱与当代生成式系统
关系反应远早于LLM出现。远程操控机器人和基于传感器的陪伴机器人在几乎没有开放对话的情况下就引发了社会行为或关系意义。早期的陪伴聊天机器人在当前LLM产品之前就能被体验为提供支持。因此,生成流畅性并非个人意义的先决条件。当代生成式系统带来了更多语言:上下文感知的回复、模拟的相互自我披露以及某些产品中的持久档案或检索支持的个性化。一项为期四周的随机研究发现,在调整多重性后,模态或对话类型没有显著效应,选择使用更多的参与者心理社会结局较差,但时长并非随机分配。
3.5 感知到的益处、风险与因果限制
参与者报告了陪伴、倾诉之处、情感支持和短期缓解。约3%的受访者自愿表示应用曾中断过自杀意念,但这是回顾性归因,并非临床预防效果的证据。负面结果差异很大:一项研究专门采样了心理健康危害相关的Reddit帖子,发现了情感依赖、痛苦和角色扮演,但无法得出患病率估计。另一项研究描述了高度投入用户中的矛盾心理和羞耻感。横断面数据无法区分选择、因果和反馈。
3.6 依赖样与成瘾相关的卷入
少数报告涉及与问题性使用相关的特征,描述了情感依赖、难以脱离、尽管有疑虑仍持续使用以及系统或关系变化时的痛苦。两项研究测量了情感依赖和问题性使用,但与时长的关联是观察性的。一项研究使用标记为ChatGPT成瘾的量表,但其横断面模型无法确定障碍,也未测量依恋结果。这些报告呈现的是一个参与谱系,而非确认的行为成瘾。定期使用,甚至是情感上重要的使用,可以服务于某种目的。只有当控制受损、优先级上升或明知有害仍持续使用与痛苦、冲突或损害同时出现时才值得关注。
3.7 敏感性分析
所有四个分析领域在移除两篇预印本后仍然存在,但情感依赖和问题性使用的证据范围缩小。排除具身化系统后,关于触觉、共同在场、共享常规和特定物体损失的证据消失,而软件介导的陪伴和依赖的证据保持。将语料库限制为同行评审的软件报告进一步缩小了问题性使用的直接证据。排除Replika报告后,保留了具身化系统、ChatGPT和GPT-4o,但切断了大多数关于已建立伴侣关系的自然主义证据。
讨论与结论
综合来看,12篇主要报告支持一个分层解释,而非从拟人化到依恋再到成瘾的单一路径。社会线索和用户期望可产生拟人化归因和社会临场感。重复互动可转化为陪伴,或转化为准社会性、客体相关或依恋相关的东西。只有较窄的群体可能发展出难以调节的依赖或问题性使用。在这些层次之间的移动既非不可避免也非单向。
按技术分层也缓和了新颖性的主张。在本语料库中,关系反应出现在早于当前LLM产品的机器人和聊天机器人中,因此生成流畅性并非使系统具有个人意义的原因。反向因果是这里报告的关联的主要替代解释:已经孤独、痛苦、社交焦虑或对人际关系不满的人可能更倾向于寻求AI陪伴,也可能更倾向于继续使用并报告情感依赖。
研究局限性:首要局限是检索的可重复性不足,两个第一阶段的数据库描述在计数、语言、日期和具体数字上存在冲突,导出文件和决策日志均未保存。补充发现检索是可重复的,但仅匹配了12篇主要报告中的一篇。筛查和评估缺乏独立的双重审阅,构念异质性限制了可得出结论的范围。
研究结论:社交互动型AI确实可为某些用户承载真实的个人和关系意义。但所评述的语料库不支持将拟人化、社会临场感、信任、陪伴、依恋、情感依赖和成瘾视为一条单线上的站点。大部分主要报告测量的是感知到的陪伴、关系意义、情感依赖或一个问题性使用指标。早期系统表明关系反应不需要先进的生成能力。基于LLM的系统增加了能力,但其独立效应尚不明确。总体而言,12篇主要报告描述的是一个多样化的参与连续体,而非一种独立的行为成瘾。