法律与代码之间:公共行政中负责任人工智能的操作化

《Cambridge Forum on AI: Law and Governance》:Between law and code: Operationalizing responsible AI in public administration

【字体: 大 中 小 】 时间:2026年08月28日 来源:Cambridge Forum on AI: Law and Governance

编辑推荐:

  本文考察如何将抽象的负责任人工智能(Responsible AI)原则转化为公共部门人工智能系统的实践约束。聚焦正当程序(Due Process)、透明度、公平性、理由给定与比例原则,研究人员借助行政法与宪法教义审视政府中的人工智能部署,旨在通过比较分析评估美

  
本文考察如何将抽象的负责任人工智能(Responsible AI)原则转化为公共部门人工智能系统的实践约束。聚焦正当程序(Due Process)、透明度、公平性、理由给定与比例原则,研究人员借助行政法与宪法教义审视政府中的人工智能部署,旨在通过比较分析评估美国(US)、欧盟(EU)与新加坡三种分歧框架对负责任人工智能原则的落实程度。论文将欧盟统一硬法模式、美国碎片化预占(preemption)路径与新加坡促进型软法指南进行对比,并探讨如何将法律规范整合进人工智能全生命周期,处理技术性能与法律合规之间的固有张力。以荷兰育儿补贴算法、英国考试评分灾难、美国国内收入局(IRS)审计争议及爱沙尼亚Kratt AI成功实施等案例为证,凸显算法不透明之严重后果与前置治理之收益。研究人员据此主张多学科治理不可或缺,其原创学术贡献在于将行政法与宪法教义系统映射至各阶段人工智能要求,提出一种具体技术-法律架构(techno-legal architecture),保障自动化公共决策符合恒久法律规范。
研究背景方面,公共行政中人工智能(AI)从福利分配到预测性警务的部署,引发对问责、权利与法治的深刻质疑。现代机器学习AI演化自复杂数据模式,形成数学“黑箱”,与传统硬编码规则决策树的可审计性根本冲突,撞上正当程序、透明度与非任意性等长期法律规范。研究人员指出,法律以宽泛原则语言表述,技术团队以统计管道与模型工作,桥接“法”与“码”是核心挑战;现有研究虽涉及law-as-code与code-as-law,但缺乏将行政法与宪法教义系统映射到AI全生命周期的比较性技术-法律架构研究。为此,研究人员选取代表三种治理范式的司法辖区——欧盟(统一硬法)、美国(去中心化市场驱动、倾向联邦预占与去监管)、新加坡(敏捷促进型软法)——开展结构化比较分析,并嵌入案例研究,最终提出跨学科治理下的技术-法律架构。
主要关键技术方法方面,研究人员采用比较法分析框架,以风险分类、人类监督、透明度、可解释性、可审计性与问责为维度,对照?《行政法》与?《宪法》原则评估三辖区制度;运用全生命周期映射法,将法律教义逐段翻译为设计期、部署期与后期监测的技术约束;借助典型案例研究(荷兰Toeslagenaffaire、英国2020 A-level算法、美国IRS审计算法、爱沙尼亚Kratt/Bürokratt)做正反证据三角验证;在规范推演中引入公平-精度权衡的多目标训练、固有可解释模型(如广义加性模型)替代事后XAI(如LIME、SHAP)、算法信息托管(escrow)与分级透明度等工程-法律混合机制,忽略具体代码与数据管道实现。
研究结果部分,第1节引言界定研究对象为公共部门AI而非广义自动决策(ADM),阐明选案辖区代表性。第2节法律与规范基础指出,行政法理由给定义务、平等与非歧视、GDPR式救济权构成AI嵌入底线,不透明模型须产出可被人审理解释或日志。第3节监管框架比较评估表明:欧盟AI Act(Regulation (EU) 2024/1689)以Annex III默认高风险、FRIA、Article 14人监、Article 13/50透明义务构筑硬法管线,但外部模型依赖与小市府成本受限;美国以EO 14365联邦预占推翻州法、OMB M-25-21与NIST框架自愿化,创新优先致公共问责缺口;新加坡FEAT原则与AI Verify软法促进敏捷,但缺强制罚则致问责赤字。第4节生命周期嵌入中,风险分类与比例原则要求梯度监督与最小侵害;人环(human-in-the-loop)须防自动化偏误且法院应索证实质复审;透明与商业秘密张力下须立法托管关键文档并实现分级透明;可解释性上事后XAI具局部近似误差与责任扩散风险,高利害决策应默认固有可解释模型;公平-精度权衡揭示demographic parity、equalized odds数学互斥,须多目标标量化接受精度折损;可审计性要求持续日志、TEVV与法定审计权。第5节案例显示荷兰因代理变量与无FRIA致2万余人权利受损,英国A-level因历史成绩锚定放大阶层偏差且无诉愿,IRS审计对黑人纳税人差异率2.9–4.7倍暴露自愿治理失效,爱沙尼亚Kratt/Bürokratt以用户中心、人环与可解释架构落地140余用例且《Taxation Act》§462授权自动行政行为而不丧信任。第6节多学科治理与租房分配逐步翻译示例(Equal Protection→高风险→demographic parity惩罚→广义加性模型→漂移kill switch)证明法律可硬编码;监管沙盒与采购合同化义务闭环问责。第7节结论总结,单一范式不足,须混合法定风险分类、人监、软法敏捷与严审管道。
讨论与结论翻译:公共部门AI提升效率之潜力伴生对民主价值与法律权利之锐险;比较分析证成正当程序、比例、非歧、透明诸教义不可因自动化而绕过,全周期须显式技术-法律整合——设计期风险分级与数学偏见测,部署期可解释文档与人审点,后期续审与申诉。纯依欧盟硬法或缓公共现代化,纯信美国预占去监管危民权,纯靠新加坡软法缺强制。优策兼采:绑定风险分类与人监令+敏捷多学科技术标准+严审管道。法律保障须在算法语境中有意义,即码自身合规工程化——用固有可解释模型而非缺陷事后近似、数学健全公平优化、不可变审计迹。唯制度化法-码混合机制,法律家续哺技术实践、工程师严操宪限,政府方驭AI之利而不弃正义、尊严与民主控权。
论文发表于《Cambridge Forum on AI: Law and Governance》。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号