今日动态 返回首页
会员注册 登录 生物通快讯免费订阅
  • 首页 今日动态 人才市场 新技术专栏 中国科学人 云展台
    BioHot
    • 定制我的BioHot
    • 进入我的BioHot
    • 进入我的集采
    • 肿瘤癌症研究
    • 免疫/基因/细胞疗法
    • 神经生物学
    • 健康与疾病
    • 衰老机制与长寿
    • 单细胞技术
    • 基因编辑-CRISPR
    • RNA研究
    • 肠道菌与人体微生态
    • 细胞代谢
    • AI生物信息学
    • COVID
    云讲堂直播 会展中心 特价专栏 技术快讯 免费试用

  • 生物通官微
    陪你抓住生命科技
    跳动的脉搏

生物通首页  >  今日动态  >  正文

AI保障举措批判性回顾:从碎片化框架到五项跨领域承诺的可信保障路径

《ARTIFICIAL INTELLIGENCE REVIEW》:Artificial Intelligence (AI) assurance: challenges, gaps, and the path forward

【字体: 大 中 小 】 时间:2026年09月30日 来源:ARTIFICIAL INTELLIGENCE REVIEW 18.8

编辑推荐:

   摘要将人工智能(AI)/机器学习(ML)集成到金融和自主系统等高影响领域带来了显著优势,但也引入了复杂的风险和监管挑战。这些系统表现出非确定性、数据依赖性和不断演变的漏洞等特性,难以通过主要为静态的保障方法来应对。本文对AI保障举措进行了批判性回顾,审视了现有的框架,如NIS

  

摘要

将人工智能(AI)/机器学习(ML)集成到金融和自主系统等高影响领域带来了显著优势,但也引入了复杂的风险和监管挑战。这些系统表现出非确定性、数据依赖性和不断演变的漏洞等特性,难以通过主要为静态的保障方法来应对。本文对AI保障举措进行了批判性回顾,审视了现有的框架,如NIST AI风险管理框架(NIST AI RMF)、包括OECD和G7 AI工具包在内的全球指南、面向从业者的资源以及具有代表性的研究驱动方法。我们不再将安全性、公平性、鲁棒性、隐私、可解释性和问责性视为独立的保障框架,而是将它们视为需要通过五项跨领域承诺来实现操作的保障目标。这五项承诺分别是:可测试的主张、证据义务、生命周期有效性、问责与救济以及互操作性。利用这些承诺,我们比较了现有举措如何将高级治理目标转化为可审计和可维护的保障实践。我们的分析表明,尽管相关活动日益增多,AI保障仍然碎片化,并且经常未能充分规定在现实环境中实现可信保障所需的面向部署的实践。我们强调了将监管意图转化为操作性要求和证据所面临的挑战,并强调了需要连贯的、上下文敏感的且具有适应性的保障策略。本文以对新兴方向以及为政策制定者、开发者和监管机构推进可信AI所需的实际考量进行反思作为结论。

将人工智能(AI)/机器学习(ML)集成到金融和自主系统等高影响领域带来了显著优势,但也引入了复杂的风险和监管挑战。这些系统表现出非确定性、数据依赖性和不断演变的漏洞等特性,难以通过主要为静态的保障方法来应对。本文对AI保障举措进行了批判性回顾,审视了现有的框架,如NIST AI风险管理框架(NIST AI RMF)、包括OECD和G7 AI工具包在内的全球指南、面向从业者的资源以及具有代表性的研究驱动方法。我们不再将安全性、公平性、鲁棒性、隐私、可解释性和问责性视为独立的保障框架,而是将它们视为需要通过五项跨领域承诺来实现操作的保障目标。这五项承诺分别是:可测试的主张、证据义务、生命周期有效性、问责与救济以及互操作性。利用这些承诺,我们比较了现有举措如何将高级治理目标转化为可审计和可维护的保障实践。我们的分析表明,尽管相关活动日益增多,AI保障仍然碎片化,并且经常未能充分规定在现实环境中实现可信保障所需的面向部署的实践。我们强调了将监管意图转化为操作性要求和证据所面临的挑战,并强调了需要连贯的、上下文敏感的且具有适应性的保障策略。本文以对新兴方向以及为政策制定者、开发者和监管机构推进可信AI所需的实际考量进行反思作为结论。

相关新闻
生物通微信公众号
生物通新浪微博
微信
新浪微博
我要投稿
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热搜:人工智能保障|AI风险管理|监管框架|可信AI|高影响领域|保障策略

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号