执法监管沙盒:构建符合宪法的创新型人工智能警务系统的可行路径
《Cambridge Forum on AI: Law and Governance》:Regulatory sandboxes in law enforcement: A pathway towards innovative and constitutionally sound AI systems in police authorities
【字体:
大
中
小
】
时间:2025年12月11日
来源:Cambridge Forum on AI: Law and Governance
编辑推荐:
本文探讨了欧盟《人工智能法案》(AIA)框架下的监管沙盒(Regulatory Sandbox)机制,如何为执法机构在开发和使用前沿人工智能(AI)系统时,提供一条兼顾技术创新与基本权利合规的路径。研究以德国近期围绕“安全一揽子计划”(Sicherheitspaket)中引入生物特征网络扫描(biometric internet scans)的立法辩论为案例,分析了在政治压力下仓促立法可能带来的法律风险。作者提出,通过监管沙盒进行跨学科、多主体的协同测试与开发,有助于制定精确的法律基础、集成技术性和组织性数据保护措施,从而长远来看能够节约税收、避免对大型科技公司的依赖,并开辟一条尊重数字人权的欧洲AI发展道路。这项研究为在法治框架下负责任地推进执法AI现代化提供了重要的政策启示。
在数字时代,人工智能(AI)技术正以前所未有的速度渗透到社会各个角落,执法领域也不例外。从网络数据抓取到测谎仪,从大规模通信监控到生物特征识别,AI工具为警方提供了现代化的调查手段。然而,这些强大的技术也如同一把双刃剑,在提升执法效率的同时,也可能将公民置于前所未有的监控之下,与法治原则和数字人权(Digital Human Rights)产生激烈冲突。近期,德国发生的一起事件将这一矛盾凸显无遗:一名潜伏数十年的疑似左翼恐怖分子,最终是由记者使用公开的AI人脸搜索工具PimEyes在社交媒体上发现,而非由装备精良的警方抓获。这一事件引发了公众质疑和安全机构的尴尬,进而催生了德国联邦政府旨在加强反恐的“安全一揽子计划”立法动议,其中便包括允许移民和执法部门使用生物特征网络扫描技术。然而,这种在政治压力下快速推进的立法,其合法性与合宪性受到了广泛质疑。问题的核心在于:如何在拥抱技术创新的同时,确保其发展与应用始终在法治和基本权利的轨道内进行?
发表于《Cambridge Forum on AI: Law and Governance》的论文《Regulatory sandboxes in law enforcement: A pathway towards innovative and constitutionally sound AI systems in police authorities》正是针对这一核心挑战展开研究。作者Michael Kolain将目光投向了欧盟《人工智能法案》(AI Act, AIA)中一项关键的制度创新——监管沙盒(Regulatory Sandbox)。该研究深入剖析了监管沙盒这一法律工具,探讨其是否能够以及如何为执法机构创建一条通路,使其既能使用尖端AI系统,又能确保符合基本权利保障要求。
为回答上述问题,研究人员主要运用了立法分析与案例研究相结合的方法。首先,对《人工智能法案》(AIA)第六章“支持创新的措施”中关于监管沙盒(Art. 57-59 AIA)和在真实世界条件下测试(Art. 60-61 AIA)的条款进行了细致的文本分析和立法意图解读。其次,以德国“安全一揽子计划”立法过程为典型案例,深入剖析了在执法领域引入高风险AI系统(High-Risk AI Systems)(如生物特征网络扫描)所面临的法律、技术和政治多重张力。研究还涉及对欧盟委员会相关指南文件(如关于被禁止的AI实践的指南)的考察,以厘清相关法律概念(如“无目标抓取”untargeted scraping)的边界。
文章开篇指出,AI在执法中的应用是长期技术发展的延续,而非彻底的“革命”。然而,当前涌入市场的许多AI工具确实具有变革潜力,但也可能引发与数字人权和法治的冲突。研究聚焦于《人工智能法案》(AIA)中的监管沙盒这一创新支持工具,其核心研究问题是:监管沙盒能否成为一种有效途径,帮助化解快速现代化警务与制定符合高标准基本权利的法律规定和AI系统之间的路径冲突?德国关于生物特征网络扫描的立法辩论被用作案例,以说明相比仓促的立法进程,监管沙盒途径的可能优势。
研究表明,尽管监管沙盒在《人工智能法案》(AIA)中主要被设计为减轻中小企业(SMEs)和初创企业监管负担的工具,但其条款(特别是第57条第2款和第59条第2款)为在执法领域应用预留了空间。文章重点分析了第59条第2款,该条款允许执法机构在监管沙盒中,基于特定的欧盟或国家法律,并在满足10项累积条件的前提下,为进一步开发某些AI系统而处理原为预防、调查、侦查刑事犯罪等目的而合法收集的个人数据。这为执法机构与潜在的AI系统提供者(尤其是欧洲的中小企业)在受监督的环境下共同开发定制化解决方案提供了法律可能性。这种合作有助于促进技术主权(Digital Sovereignty),避免依赖外部监管环境不同的科技巨头的解决方案。
文章进一步探讨了监管沙盒与“在真实世界条件下测试”(Testing in Real-World Conditions)(第60条)的协同效应。在沙盒内进行的测试可以包含真实世界条件测试,从而在更接近实际应用场景的环境中验证AI系统。对于执法应用而言,这种测试尤其有价值,因为实验室环境下的成功未必能在街头复杂环境中复现。然而,文章也指出,关于在沙盒外进行真实世界测试时,在何种情况下可以不经数据主体知情同意而使用执法数据(依据第60条第4款i项),法律规定仍不清晰,这为未来研究留下了空间。
通过对德国《避难法》第15b条(§ 15b Asylgesetz)的细致法律分析,文章揭示了在执法领域引入AI系统时面临的法律与技术交织的复杂性。该条款允许移民当局为识别寻求庇护者身份,使用自动化数据处理应用程序,将其生物特征照片与互联网上一般公开的个人数据进行生物特征比对。分析指出,判断此举是否触犯《人工智能法案》(AIA)第5条第1款e项(禁止通过无目标抓取网络或CCTV图像创建或扩展人脸识别数据库)的禁令,在很大程度上取决于所使用AI系统的具体技术实现方式(例如,是依赖预先构建的数据库,还是使用反向图像搜索引擎结合生物特征匹配)。这种不确定性凸显了在引入此类敏感技术前,通过监管沙盒等机制进行跨学科(法律、技术、伦理)审慎评估的必要性。作者认为,尽管耗时更长,但监管沙盒路径长远来看能避免权利侵害、司法诉讼和公共资金的浪费。
5. 展望:为不同层级执法机构设立联合监管沙盒的构想
文章最后勾勒出为执法目的设立联合监管沙盒的蓝图。这种沙盒可以汇集来自不同层级(如联邦与州)的执法机构、国家主管当局、基本权利保护机构(如数据保护机构)、潜在供应商、学术界和民间社会的多方参与。通过这种协作,可以同时实现多个目标:确保开发的AI系统不违反禁令或高风险系统要求;使系统设计符合执法机构的具体需求和IT基础设施;考虑国家宪政特殊性;提高系统透明度;促进符合技术主权目标的公共采购;以及高效利用公共资金。
研究的结论部分强调,在政治极化加剧和数字威权主义抬头的时代,仓促出台的、过度干预基本数字权利的监控法律,若最终被宪法法院否决或证明无效,会削弱人们对自由法治国家和民主执法机构的信任。相比之下,通过监管沙盒首先测试新的警务技术,然后再制定符合宪法和法律的法律基础,并进行符合欧洲价值观的技术主权AI系统联合采购,是一种更为审慎和负责任的现代化路径。监管沙盒作为《人工智能法案》(AIA)开启的一扇门,为在法治框架内、尊重高标准数字人权的前提下,彻底现代化警察队伍提供了可行的协作平台。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号