《Discover Public Health》:Artificial intelligence in childhood and its implications for mental health prevention
编辑推荐:
儿童正日益广泛地接触人工智能(artificial intelligence, AI)系统,包括自适应学习平台、对话代理(conversational agents)及数字心理健康工具。这些技术具有潜在获益,如扩大支持的可及性、早期识别心理困扰以及个性化学习。
儿童正日益广泛地接触人工智能(artificial intelligence, AI)系统,包括自适应学习平台、对话代理(conversational agents)及数字心理健康工具。这些技术具有潜在获益,如扩大支持的可及性、早期识别心理困扰以及个性化学习。与此同时,学界亦对AI如何影响儿童的认知过程、社会互动及情绪发展提出关切。当前证据基础仍属有限,尤其缺乏针对儿童特定人群的研究。尽管部分研究(主要来自成人或混合年龄样本)提示AI辅助工具的获益,但许多所提出的发展性风险仍停留在理论层面,或基于专家观点而非儿童中的直接实证证据。这些关切涉及批判性思维(critical thinking)、共情(empathy)、心理韧性(resilience)及参与模式等方面。这些问题在亚洲诸多地区尤为相关,该处快速的数字技术普及与多元文化期望、教育压力、技术可及性及结构性不平等相互交织。本观点性文章审视了儿童接触AI相关的机遇、发展性风险及政策含义,特别关注多元亚洲背景下的预防性精神卫生,强调发展适宜性、伦理治理及文化知情化实施的重要性,同时认识到尚需进一步实证研究以阐明AI对儿童心理健康的影响。
## 研究背景与问题提出
人工智能正日益嵌入儿童日常发展环境,其作为一种信息来源与互动代理的角色引发了学界对儿童学习方式、人际联结建立及信息解读模式的深入思考。儿童期是社会性、认知性及情绪性发展的敏感时期,此阶段的经验对塑造儿童的情绪调节、关系形成及环境参与等发展轨迹具有关键作用。AI由此构成一种新型的发展性暴露,其影响已超越服务交付工具的范畴,延伸至日常学习、互动模式及意义建构过程。
当前AI相关工具在儿童中的应用主要包括三类:临床或治疗性工具(如AI支持认知行为<吓BT>聊天机器人及分诊系统)、自适应教育平台,以及陪伴导向型系统(包括对话代理及互动设备)。尽管AI在扩展资源可及性、支持学习及早期识别心理困难方面具有潜力,但许多提出的风险——尤其是与共情和心理韧性相关的风险——仍停留在理论层面或从相邻研究领域外推而来,尚缺乏儿童群体中的直接实证支持。
这些问题在亚洲背景下尤为突出。该地区快速的数字技术普及与强烈的学业期望、家庭互依性、持续存在的社会不平等相互交织。高度城市化的高收入环境(如新加坡、东京)与资源有限的农村或低收入环境之间的差异,既塑造了儿童接触AI的方式,也决定了其发展性含义的独特表现形态。因此,理解AI的机遇与风险对于关注儿童心理健康与发展的专业人员至关重要。
## 关键技术与方法
本研究为一篇观点性评述,未采用传统实验方法,而是基于以下核心路径展开分析:通过对现有文献的系统梳理,包括针对Woebot与Wysa等AI支持CBT工具的系统综述及随机对照试验(RCT)证据进行批判性评估;运用发展心理学理论框架分析AI作为新型发展性暴露的作用机制;采用跨文化比较视角,结合语言使用与文化嵌入模式的研究证据;以及基于设计科学、临床实施科学和政策分析的综合方法,提出涵盖设计、临床、教育和监管四维度的实践指导原则。研究特别关注亚洲语境下的结构性差异与文化适应性需求。
## 研究结果
**AI在儿童期的机遇与新兴角色**
研究人员将相关AI应用划分为临床或治疗性工具、教育平台及陪伴导向型系统三大类别,指出区分循证支持应用与探索性或商业驱动用途的重要性。
在临床应用领域,AI支持的CBT工具(如Wysa和Woebot)在某些研究中显示出减轻抑郁和焦虑症状的潜力,但大部分证据来自成人或混合年龄样本。一项近期系统综述仅识别出10项符合标准的研究,其中仅两项为RCT,均评估Woebot;Wysa及其他应用的研究主要为观察性或混合方法设计。RCT发现Woebot可能与短期抑郁和焦虑症状减轻相关,而Wysa的证据主要表明更高用户参与度与症状改善相关,但这些观察性发现存在选择偏倚且缺乏实验控制。总体而言,当前证据基础有限、异质性大且主要来自成人或混合人群,凸显开展更严格且针对儿童的研究之必要。
AI亦可通过筛查、心理教育及决策支持功能扩展服务可及性。对话AI系统可将心理健康筛查扩展至传统临床场景之外,使个体能在私密的居家环境中使用支持工具。然而,这些工具不能替代临床医师提供的服务,精神医学评估依赖临床判断、复杂行为线索的解读及治疗关系的建立,这些均超出当前AI系统的能力范围。AI支持工具虽可改善可及性并提供初步支持,但也引发关于准确性、可靠性及恰当转诊的担忧,包括误导性输出、假阳性、假阴性安慰、有限临床验证及不明确的上级路径等风险。
在自适应教育平台方面,AI系统通过调整内容、节奏和难度以适应儿童学习特征,可能支持参与度和学习效率,减少与教学不匹配相关的脱离。但研究人员指出,减少挫折感并非总是有益的,因可控挑战的暴露可支持掌握、坚持和深度学习,故高适应性系统的发展性含义仍需进一步研究。
陪伴导向型AI系统(如讲故事设备及对话代理)在儿童日常环境中日益普遍。游戏化系统可促进问题解决和协作——两者均被认定为心理健康的保护性因素。对于因父母外出务工或工作繁忙而缺乏亲子互动的儿童,AI支持的故事讲述和陪伴工具可能提供临时参与并减轻孤独感,潜在缓冲情绪困难。然而,此类互动也可能使机器中介关系正常化并塑造社会互动期望,其长期发展性含义需审慎评估。
**AI使用面临的挑战与关切**
研究揭示了AI暴露可能通过若干相互关联的路径影响儿童社会情绪发展。
首要关切在于儿童批判性评估AI生成信息的能力。生成式AI系统的效用取决于其训练数据的质量和代表性,可能产生不准确、有偏或语境不当的输出,且常存在透明度和可解释性(explainability)有限的问题。对于批判性评估技能尚在发展中的儿童,这构成非批判性接受的加剧风险,可能塑造包括减少独立推理和评估参与在内的认知处理模式。在强化学业表现的情境中,优先速度和正确性的AI工具可能与现有学业压力交互,强化完美主义倾向,增加焦虑及适应不良学习模式的易感性。
第二项关切涉及共情发展与社会互动。专家已提出持续与AI伴侣互动可能减少同伴和家庭互动机会——这些对练习情感协调和相互关怀至关重要——因而可能对关键发展期的共情发展和社会技能产生影响。尽管这些关切目前基于理论和专家观点而非直接实证证据,但大量证据表明孤独和社会隔离与儿童更差的心理健康结局(包括抑郁和焦虑)相关。
第三项关切关乎心理韧性发展。从发展视角看,韧性被理解为由遭遇和管理挑战而非持续优化的体验所塑造。这引发理论关切:高度自适应系统可能减少儿童体验和处理困难的机会,而这些是应对和坚持发展的关键过程。当前直接检验AI中介环境对韧性影响的实证证据仍属有限。
第四项关切聚焦于隐私和行为风险。AI系统可能收集关于儿童的敏感信息,包括情绪表露、对话数据、行为使用模式和学习分析,存在数据滥用、画像分析或商业剥削的担忧。儿童可能对这些数据的收集、存储和使用方式认识有限,增加了数字环境中的易损性。此外,专家评论指出生成式AI驱动的个性化可能鼓励强迫性参与模式,潜在放大脆弱个体的负面结局,但针对儿童AI相关强迫性使用及其心理健康影响的专门实证证据仍属有限。
研究还指出这些关切受更广泛的社会文化和结构因素塑造。数字技术获取的不均意味着城市和高收入环境儿童可能从先进AI工具中获益,而农村或低收入环境儿童可能经历AI服务的排除,潜在加剧教育和心理资源的现有不平等。同时,生成式AI系统并非文化中立:近期实证研究表明AI输出可反映训练数据中嵌入的文化模式,如中文使用相比英文使用呈现更多互依社会取向和整体认知风格。这些差异非显式编程,而源于大规模文本数据中的文化模式。来自代表性不足文化和语言群体的儿童也可能在塑造这些系统的数据集中未获充分反映,使得AI输出可能无法完全契合其生活经验或发展语境。
**政策与实践建议**
研究提出保障AI中介环境中儿童安全需跨设计、临床实践、教育和政策的协调行动,并归纳为四项指导原则:
在设计原则方面,应确保发展适宜性、透明度和避免误导性拟人化。这包括年龄适宜的语言和界面设计,避免可能鼓励过度依恋的误导性拟人特征,以及明确AI在情绪支持中的角色边界。对于年幼儿童,家长或照护者监督至关重要,并需配备使用时间限制和敏感功能或内容的限制访问等保障措施。系统还应纳入针对痛苦、自伤或虐待披露情况的透明且定义明确的上级路径。
在临床原则方面,应将AI定位为监督照护路径中的辅助手段,配备明确的上级机制。因聊天机器人及相关系统缺乏 nuanced 情绪理解能力,应作为补充而非替代人类关系的辅助工具。AI辅助教师、家长和临床医师的混合模式最有可能在扩展支持可及性的同时保护真实联结,具体可涉及AI协助初步筛查、心理教育或监测,而学校咨询师、初级保健提供者或儿童心理健康专家保留解释、决策和关系照护的责任。
在教育原则方面,应促进数字素养同时支持健康使用模式和批判性参与。教育倡议可支持儿童发展批判性评估AI生成内容、理解系统局限性和维持平衡使用模式的技能,减少依赖并支持健康发展。实践途径可包括结构化学校数字素养项目,教授学生质疑算法输出并理解AI工具的局限性。同时,平台问责和监管监督对于确保系统负责任的设计和部署实属必要。
在监管原则方面,应强制执行数据保护、独立审计和安全、偏见及商业实践问责。透明同意过程必须考虑儿童知情同意、家长同意及儿童不同理解水平的复杂性。数据治理应优先考虑最小数据收集、明确目的限制和反对二次使用的保护。独立审计亦属必要,应包括偏见、安全性、年龄适宜性、数据治理实践的评估,以及适用时的临床有效性。
研究特别强调文化语言适应对有效实施的关键性。除语言外,AI系统必须考虑痛苦表达、求助方式以及权威和家庭关系结构的差异,包括基于区域相关数据集训练AI系统、纳入本地语言和习惯表达,以及考虑求助、家庭动态和情绪表达的文化特异性规范。
**局限性与未来方向**
研究人员坦诚指出本领域的若干关键局限。首先,AI支持心理健康工具的当前证据基础有限且主要来自成人或混合年龄人群,相对缺乏儿童特异性实证研究,限制研究发现向儿童推广的程度。其次,聚焦亚洲背景的实证研究仍属稀少,本文所强调的区域相关考量部分基于更广泛理论框架,可能无法完全捕捉亚洲不同国家和环境内的异质性。第三,所讨论的若干发展性风险(包括对共情、韧性和社会互动模式的潜在影响)仍停留在理论层面或从数字媒体使用和社会隔离等相邻领域外推,需纵向和实验研究以澄清因果机制及AI童年暴露的长期发展后果。最后,尚需更多整合发展心理学、精神医学、教育学和计算机科学视角的跨学科研究,以开发循证框架指导AI系统的设计、实施和评估。
## 讨论与结论
研究人员在结论部分强调,AI正日益嵌入儿童发展环境,其作为信息来源和互动代理的角色引发关于儿童学习、人际联结建立和信息解读的重要问题。审慎实施时,AI有潜力扩展资源可及性、支持学习并贡献于心理困难的早期识别;同时,关于其对儿童发展潜在影响的诸多关切已被提出,包括可能对批判性思维、社会互动和适应性应对过程的含义。
尽管部分证据支持AI辅助工具的获益——尤其在改善支持可及性方面——但许多提出的风险(尤其与共情和韧性相关的风险)仍停留在理论层面或从相邻研究领域外推而来,而非在儿童群体中直接确立。AI因此可能对儿童社会情绪发展的诸多方面构成风险,尤其当缺乏充分保障措施即实施时。然而,专门检验儿童这些结局的实证证据仍属有限,需进一步研究以澄清这些效应的性质、程度和机制。
结局不仅受监管框架塑造,也受AI系统在日常语境中的设计、实施和使用方式影响。设计实践、商业激励以及家庭、学校和从业人员的角色均影响儿童与这些技术的互动方式及潜在获益和风险的实现方式。这些考量在亚洲诸多地区尤为相关,该处快速的数字采用与文化期望、教育压力和结构性不平等相互交织。精神科医师、教育家、心理健康从业人员和政策制定者因此在确保AI系统以支持而非意外阻碍儿童发展的方式设计和实施方面具有重要作用。
研究结论明确指出:审慎、循证的方法实属必要,需同时认识将AI整合入儿童生活所伴随的机遇与不确定性。最终,指导原则在于技术必须服务于儿童发展和心理健康的最佳利益,而非规定或重塑其发展轨迹。
本研究发表于《Discover Public Health》。