缓解英国文官体系中的算法偏见:挑战与实践意涵

《Big Data & Society》:Mitigating algorithmic bias in the UK civil service: Challenges and implications for practice

【字体: 大 中 小 】 时间:2026年08月28日 来源:Big Data & Society 5.9

编辑推荐:

  本文考察英国文官体系特别是工作与养老金部(DWP)语境下的算法偏见缓解问题。尽管文献中已提出多种算法偏见缓解路径,但鲜有研究检视这些方法在诸如DWP这类复杂组织情境中如何运作。研究人员通过面向DWP从业者的算法偏见系列工作坊及后续访谈收集数据,探讨从业者对三种

  
本文考察英国文官体系特别是工作与养老金部(DWP)语境下的算法偏见缓解问题。尽管文献中已提出多种算法偏见缓解路径,但鲜有研究检视这些方法在诸如DWP这类复杂组织情境中如何运作。研究人员通过面向DWP从业者的算法偏见系列工作坊及后续访谈收集数据,探讨从业者对三种社会技术(sociotechnical)偏见缓解方法的感知,尤其是其对方法适用性及实施路径的看法。研究发现:(1)在服务于异质性庞大的公众时,从业者难以将技术与社会正义价值对齐,而后者正是社会技术缓解路径的底层逻辑;(2)从业者认为反歧视立法界定不清,使其难以超越统计式公平框架;(3)参与者视劳动力多样性为偏见缓解的重要条件,但不将其视为短期方案。
研究背景与问题意识
随着算法技术在公共服务中的扩张,预测性统计自动化加剧了针对特定群体的系统性不公平对待,技术“去偏”(de-biasing)方法因将不平等窄化为统计问题而受批评;社会技术(sociotechnical)路径强调技术组件与社会结构的交互,但在文官组织内如何被从业者理解、适配与落地仍属空白。英国在财政紧缩背景下推动数据驱动降本,DWP作为最大支出部门,算法已渗入福利判定、欺诈检测与就业匹配,受益群体高度脆弱,使偏见后果尤为严峻。既有研究多聚焦微观个体或宏观政治,缺位于中观组织层——即生态层(ecological)、组织结构层与心理社会层(socio-psychological)如何共同塑造从业者可采取的行动通道。此项研究据此在《Big Data》发表,以填补“从业者感知—组织文化—法律政治结构”三角缺口。
关键技术方法
研究人员采用参与式取向下的定性设计,于2022年4月至8月与DWP合作开展七次教育性工作坊(33名跨岗位从业者参与,含数据分析、数据科学、网络安全、多元团队、政策分析与就业中心教练),依次引入算法偏见概念、价值敏感设计(Value Sensitive Design, VSD)、算法影响评估(Algorithmic Impact Assessments, AIAs)与数据集立场性(dataset positionality);工作坊五至七涉及伦理算法原型与数据伦理框架搭建。随后对7名参与者进行回溯访谈(间隔1—3个月)。数据经Microsoft Teams录制与Jamboard留痕,转录后采用反思性主题分析(reflexive thematic analysis),编码框架预置组织理论派生码(机会/障碍/生态层/组织层/心理社会层)与归纳码(政治关切/人机决策/模糊关切),由研究人员完成。
研究结果
The influence of ‘nicer citizens’ and ‘taxpayer’ discourses
工作坊与访谈显示,从业者在VSD练习中将“纳税人”与“申领者”建构为对立利益相关方,以纳税人资金效率话语平衡对边缘申领者的同情;心理社会层上个体虽受自杀新闻触动,却因文官中立义务保持距离。政策分析师指出《卧室税》制定中军方游说压倒残障团体,证明生态层政治网络将优势价值硬编码入算法可能。结论:在异质公众与纳税人成本—收益话语下,社会正义导向的VSD难以优先边缘群体。
Responsibility: ‘at which point is the bias acceptable?’
数据科学家区分“灾难性算法”与垃圾邮件过滤类低危算法,质疑公众只盯有害案例导致责任分配失衡;从业者指出人类决策本身含偏(如Universal Credit对移民与兼职者偏见),且算法常训练于人类裁决,故“human in the loop”未必增审。结论:偏见可接受阈值模糊,人机混合决策中组织与生态层对人类裁决者的塑造未被现有框架覆盖。
The influence of legal structures on bias mitigation
从业者将AIAs类比既有的数据保护影响评估(Data Protection Impact Assessments, DPIAs)视为骨架式合规;同时指《平等法》(Equality Act 2010)对“间接歧视”“合法目的”界定含糊,某教育资格支持试验因学历与种族变量重叠被中止。结论:法律不确定迫使从业者退行到统计/程序公平,生态层法条限制其迈向正义框架。
Challenges to diversity
跨岗参与者认同多样团队能暴露“未知未知”,但黑人酷儿就业教练疑心晋阶后“成为组织织物”难撼结构;多元团队成员坦言需劝少数者“少谈种族”以免反弹。结论:劳动力多样性被肯定为非短期、且可能把反思义务转嫁边缘个体的补充条件。
讨论浓缩
研究人员主张算法偏见缓解不可脱离组织三层结构;纳税人话语经生态层将成本效率价值嵌入公务实践,政治游说经间接网络约束DWP可选算法形态,单凭后果论或价值论伦理不足解题。从业者因《平等法》含糊而被绑于统计公平,公私部门皆趋法律风险最小化,但文官动机是守法而非护声誉。多样性有助识别偏见却非短期解,且边缘者承担“用自身受压经验启蒙组织”的隐性劳动。
结论翻译
上述发现凸显公共服务中的算法偏见缓解无法与其组织、政治与法律脉络剥离;此部分源于从业者对生态层结构(如《平等法》、政治中立义务、游说影响及公众想象)的感知。在此语境中应对偏见,不仅需采纳社会技术缓解路径,亦需重构其所嵌广义环境及互连组织与制度的结构性改革。
(注:全文未引文献标、未用HTML转义、上下标以示,如Robo-debt、GDPR、COMPAS、PIP等保留原文大小写;作者Hadley Beresford原名保留。)
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号