人工智能在社会项目中的评估:将复杂干预重构为社会技术干预

《Journal of Evidence-Based Social Work》:Evaluating AI in Social Programs: Reframing Complex Intervention as Socio-Technical Intervention

【字体: 大 中 小 】 时间:2026年01月03日 来源:Journal of Evidence-Based Social Work 1.4

编辑推荐:

  当前,人工智能(Artificial Intelligence, AI)系统在社会服务领域的应用日益广泛,但关于其系统化、基于证据的利用研究尚处于起步阶段。现有框架难以应对AI所带来的复杂伦理和方法论挑战。干预开发与评估必须回应关于有效性、伦理性及风险缓解方面

  
当前,人工智能(Artificial Intelligence, AI)系统在社会服务领域的应用日益广泛,但关于其系统化、基于证据的利用研究尚处于起步阶段。现有框架难以应对AI所带来的复杂伦理和方法论挑战。干预开发与评估必须回应关于有效性、伦理性及风险缓解方面的深刻不确定性。英国医学研究理事会/国家健康与护理研究院(Medical Research Council/National Institute for Health and Care Research, MRC/NIHR)更新的复杂干预开发与评估框架为解决上述挑战提供了一种有前景的元方法论。然而,该框架缺乏对AI系统社会技术特性及其动态性与涌现性的关键视角。本文借鉴社会技术(Socio-Technical)研究范式,识别出六个程序性维度以强化该框架,包括:(1)"预期性设计"(Anticipatory Design),用于识别并缓解不确定影响;(2)"伦理考量"(Ethical Considerations),用以突出透明性、问责制与公平性;(3)"持续影响评估"(Continuous Impact Evaluation),用以监测涌现性及非预期效应;(4)"参与式设计"(Participatory Design),用以协同生产与利益相关者价值观一致的系统;(5)"自动化实践的社会物质偶然性"(Socio-Material Contingencies of Automated Practice),用以理解AI如何重塑专业角色与实践;(6)"干预依从性的重新配置"(Re-configurations of Intervention Adherence),用以捕捉适应性、抗拒性及情境变异。本文倡导将利用AI的专业实践重构为"社会技术干预"(Socio-Technical Intervention)——一种有意关注人与AI系统相互构成关系,以追求伦理、有效且情境敏感创新的概念转向。这一概念转向可为干预研究与发展提供指导。未来工作应聚焦于将其操作化,以生成AI在社会服务中利用的证据基础。
该研究聚焦于人工智能(AI)系统在社会服务中的应用及其评估框架的构建,旨在解决当前AI技术应用中存在的伦理与方法学挑战。研究背景源于AI在社会服务领域的快速渗透,包括算法决策支持系统、护理机器人、自动化诊断与风险检测以及AI聊天机器人等应用形式,这些技术承诺提升服务可及性、效率、服务对象赋权及个性化干预。然而,算法偏见、权力不对称加剧、隐私与知情同意问题、监控风险以及对私营技术公司的依赖等挑战同样显著。更为关键的是,现有研究基础薄弱,关于AI系统实际有效性的证据仍不充分,随机对照试验在心理健康聊天机器人领域的结果不一致且范围有限。这种技术创新与循证实践之间的落差为社会工作这一应用型、伦理 grounded 学科带来了深刻风险。

在此背景下,研究人员指出AI技术并非中性的服务递送渠道,而是与专业生态系统相互塑造的动态主体。为建立系统性的评估框架,研究人员提出借鉴社会技术研究范式,将英国MRC/NIHR复杂干预框架进行扩展,构建"社会技术干预"(Socio-Technical Intervention)的概念框架。该框架的核心论点是:AI系统嵌入价值观、假设和权力关系,其应用应被视为人类与技术系统相互构成的复杂实践,而非中性工具的应用。研究人员围绕三个核心问题展开研究:情境适宜性——何种AI部署理由优于人力方法或其他技术;证据与复杂性——如何建立考虑AI动态多元应用特征的有效性证据;伦理责任——如何预期、监测和缓解伦理风险包括非预期后果和涌现性危害。

研究人员在研究中得出以下主要结论:社会技术干预框架明确拒绝技术中立性假设,将AI视为与社会专业系统共同构成的动态行动者;该框架通过六个程序性维度的 additions,为AI融入社会服务提供了系统性的方法论指导;这种概念转变能够促进伦理稳健、情境敏感且基于证据的AI应用开发与评估;未来需要将重点放在操作化实践上,以生成AI在社会服务中利用的证据基础。

该研究的重要意义在于:理论上,填补了AI技术概念化与方法学嵌入专业社会实践的研究空白,将社会工作的系统传统与社会技术研究范式相结合;方法论上,为复杂干预研究提供了新的分析维度,特别适用于具有不确定性、反馈循环和涌现行为的AI系统;实践上,为评估AI如何重塑社会关系、专业规范和生活经验提供了系统方法,有助于抵制"AI现实主义"宿命论和"技术解决方案主义"的还原论倾向。该论文发表于《Journal of Evidence-Based Social Work》。

为开展研究,研究人员主要运用了以下关键技术方法:概念分析与框架构建方法,基于文献综述和理论整合,将社会技术系统理论、系统思维、技术批判理论、新唯物主义、女性主义技术科学、批判数据研究和价值敏感设计等多元理论框架进行整合;案例研究方法,以心理健康支持聊天机器人为例,阐释六个程序性维度在真实情境中的应用;理论驱动的评估设计,借鉴MRC/NIHR复杂干预框架的迭代模型,结合参与式方法、定性分析、概念图谱及混合方法设计;实践理论视角,运用社会实践理论分析AI系统如何改变材料、能力和意义三个实践要素。

在研究结果部分,研究人员首先阐述了MRC/NIHR复杂干预框架的核心特征。该框架将干预概念化为"系统中的事件",强调情境复杂性、动态系统交互和理论驱动评估,采用包含开发与识别、可行性评估、干预评估和实施影响的重叠迭代模型,并要求在每个阶段考虑与情境的交互、项目理论的持续发展、利益相关者视角、关键不确定性、干预优化和经济考量六项核心要素。研究人员指出该框架虽具有灵活性优势,但在应用于AI时存在局限:未专门应对AI产生的不确定性,技术可能被中性化处理,对能动性的理解不够复杂,对情境嵌入性关注不足,且未考虑基础设施政治。

随后,研究人员详细阐述了六个程序性维度的具体内容。第一,"预期性设计"针对关键不确定性,强调在干预开发和实施全过程中识别未知因素,通过"假设情景"的安全测试方式和利益相关者视角的整合来预判可能的非预期后果,并确定AI系统自动化服务的边界和限制。第二,"一般伦理考量"聚焦于算法系统中的权力不对称、专业实践与培训需求、以及风险、信任与知情同意问题。算法系统的专有代码和封闭训练数据造成制度性不透明,削弱服务对象和一线从业者的权力;专业人员需要超越操作层面的批判性评估、监督和倡导能力;传统知情同意概念在AI集成干预中变得模糊,需确保用户充分理解系统自主性、逻辑和局限性。

第三,"持续影响评估"强调由于技术特别是生成式AI(Generative AI, GenAI)具有能动性,其影响具有涌现性和高度情境依赖性,必须进行差异化监测,区分干预结果与AI利用过程中可能出现的涌现性影响,主张采用质性分析、概念图谱或混合方法设计产生丰富而非确定性的数据,并通过参与式方法建立迭代评估循环,支持实时或快速调整。第四,"参与式设计以缓解偏见风险"指出AI系统的架构和编程生命周期会持续产生偏见,反映训练数据、设计选择和组织议程中嵌入的价值观。研究人员倡导采用价值敏感设计和参与式行动研究框架,将利益相关者作为共同设计者纳入,在偏见与公平、价值对齐和认识论不透明三个关键领域协同降低风险。

第五,"自动化实践及其社会物质偶然性"运用社会实践理论分析AI如何改变实践的材料、能力和意义要素。技术基础设施重新配置干预材料,用户必须学习如何导航和解释AI交互,而实践的关系性和伦理性维度可能发生转移,如关怀的情感品质、信任或能动性。研究人员特别强调数据化(datafication)过程将质性的世界方面转化为可量化的机器可读数据,可能遮蔽生活现实。第六,"抵制、适应与挪用:干预依从性的重新配置"关注用户如何在日常实践中理解、适应或抵制AI系统。研究人员提出五个方面的监测要点:预期系统使用和意义的变化多样性;将抵制视为创新和重新配置的宝贵资源;创建迭代重新设计机制;将评估框架超越采用率或依从性指标;以及培育机构对适应的准备状态。

在讨论部分,研究人员总结了该框架的优势与局限。优势在于:明确拒绝技术中立性,将AI视为共同构成社会专业系统的动态行动者;促进监测和适应的迭代循环,使实践者能够预期非预期后果、追踪涌现性影响并实时优化干预;为社会工作长期以来的利益相关者参与和赋权承诺提供了具体操作方法。局限在于:操作性需求高,"能动性"、"情境嵌入性"和"基础设施政治"等概念理论丰富但难以转化为具体研究设计和评估指标;资源密集,参与式过程和持续影响评估需要大量时间、专业知识和资金投入;可扩展性存疑,许多AI系统由私营技术公司开发和维护,其商业激励可能与价值敏感或参与式设计原则冲突;以及存在评估疲劳风险,持续监测和适应可能使组织和从业者负担过重。

研究人员在结论中指出,该论文提出的概念方法可影响"应用伦理学"作为应对快速演变技术领域的政策工具,使其更具实践准备性。未来研究应侧重于开发实用工具包、培训计划和可扩展模型,以支持多元化组织情境中的社会技术干预设计;需要社会工作学者、从业者、计算机科学家和社区之间的协作,将理论原则转化为可操作协议;亟需实证研究在多元化真实环境中检验所提出的理论和方法论补充,以生成证据基础来发展和完善社会技术干预框架,确保其在指导AI在社会项目中负责任且有效整合方面的实用性。政策层面,随着AI治理框架的不断涌现,该方法关注技术系统对专业生态系统的效应而非技术类型本身,可为更实践 ready 且能跟上快速演变技术领域的政策制定提供参考。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号