
-
生物通官微
陪你抓住生命科技
跳动的脉搏
AI保障举措批判性回顾:从碎片化框架到五项跨领域承诺的可信保障路径
《ARTIFICIAL INTELLIGENCE REVIEW》:Artificial Intelligence (AI) assurance: challenges, gaps, and the path forward
【字体: 大 中 小 】 时间:2026年09月30日 来源:ARTIFICIAL INTELLIGENCE REVIEW 18.8
编辑推荐:
摘要将人工智能(AI)/机器学习(ML)集成到金融和自主系统等高影响领域带来了显著优势,但也引入了复杂的风险和监管挑战。这些系统表现出非确定性、数据依赖性和不断演变的漏洞等特性,难以通过主要为静态的保障方法来应对。本文对AI保障举措进行了批判性回顾,审视了现有的框架,如NIS
将人工智能(AI)/机器学习(ML)集成到金融和自主系统等高影响领域带来了显著优势,但也引入了复杂的风险和监管挑战。这些系统表现出非确定性、数据依赖性和不断演变的漏洞等特性,难以通过主要为静态的保障方法来应对。本文对AI保障举措进行了批判性回顾,审视了现有的框架,如NIST AI风险管理框架(NIST AI RMF)、包括OECD和G7 AI工具包在内的全球指南、面向从业者的资源以及具有代表性的研究驱动方法。我们不再将安全性、公平性、鲁棒性、隐私、可解释性和问责性视为独立的保障框架,而是将它们视为需要通过五项跨领域承诺来实现操作的保障目标。这五项承诺分别是:可测试的主张、证据义务、生命周期有效性、问责与救济以及互操作性。利用这些承诺,我们比较了现有举措如何将高级治理目标转化为可审计和可维护的保障实践。我们的分析表明,尽管相关活动日益增多,AI保障仍然碎片化,并且经常未能充分规定在现实环境中实现可信保障所需的面向部署的实践。我们强调了将监管意图转化为操作性要求和证据所面临的挑战,并强调了需要连贯的、上下文敏感的且具有适应性的保障策略。本文以对新兴方向以及为政策制定者、开发者和监管机构推进可信AI所需的实际考量进行反思作为结论。
将人工智能(AI)/机器学习(ML)集成到金融和自主系统等高影响领域带来了显著优势,但也引入了复杂的风险和监管挑战。这些系统表现出非确定性、数据依赖性和不断演变的漏洞等特性,难以通过主要为静态的保障方法来应对。本文对AI保障举措进行了批判性回顾,审视了现有的框架,如NIST AI风险管理框架(NIST AI RMF)、包括OECD和G7 AI工具包在内的全球指南、面向从业者的资源以及具有代表性的研究驱动方法。我们不再将安全性、公平性、鲁棒性、隐私、可解释性和问责性视为独立的保障框架,而是将它们视为需要通过五项跨领域承诺来实现操作的保障目标。这五项承诺分别是:可测试的主张、证据义务、生命周期有效性、问责与救济以及互操作性。利用这些承诺,我们比较了现有举措如何将高级治理目标转化为可审计和可维护的保障实践。我们的分析表明,尽管相关活动日益增多,AI保障仍然碎片化,并且经常未能充分规定在现实环境中实现可信保障所需的面向部署的实践。我们强调了将监管意图转化为操作性要求和证据所面临的挑战,并强调了需要连贯的、上下文敏感的且具有适应性的保障策略。本文以对新兴方向以及为政策制定者、开发者和监管机构推进可信AI所需的实际考量进行反思作为结论。