面向可解释人工智能的隐私增强技术集成研究:缓解属性推理攻击的实证分析

《Knowledge-Based Systems》:Towards integration of Privacy Enhancing Technologies in Explainable Artificial Intelligence

【字体: 大 中 小 】 时间:2025年12月27日 来源:Knowledge-Based Systems 7.6

编辑推荐:

  本文针对可解释人工智能(XAI)系统面临的隐私泄露风险,特别是属性推理攻击,开展了隐私增强技术(PETs)集成的系统性研究。研究人员在AI建模流程的三个不同阶段(模型前、模型中、模型后)集成多种PETs,评估了其在保护隐私、维持模型效用和解释质量方面的效果。结果表明,在模型后阶段对解释添加噪声是最有效的防御策略,最高可将攻击成功率降低49.47%,且对模型准确性和解释忠实性影响最小。该研究为在XAI系统中平衡隐私、可解释性和效用提供了重要策略和实证依据。

  
随着人工智能(AI)系统在医疗、司法、金融等高风险领域的广泛应用,其“黑箱”特性引发的透明度问题日益凸显。可解释人工智能(XAI)应运而生,旨在揭示AI模型的决策逻辑,增强其可信度。然而,追求透明的同时,XAI方法自身却可能成为泄露用户敏感信息的“特洛伊木马”。近年来的研究表明,攻击者可以利用模型提供的解释(例如,特征重要性评分)来推断训练数据中的敏感属性(如性别、种族、年龄),这类攻击被称为属性推理攻击。当XAI技术部署在生产环境或机器学习即服务(MLaaS)平台时,其面临的隐私泄露风险尤为严峻。目前,针对XAI系统中此类隐私攻击的有效防御措施尚属空白,特别是缺乏能同时兼顾隐私保护、模型预测性能(效用)和解释质量的整体解决方案。
为应对这一挑战,发表在《Knowledge-Based Systems》上的这项研究进行了开创性的探索。研究团队系统性地调查了将隐私增强技术(PETs)集成到基于特征的可解释人工智能(XAI)中,以防御针对解释结果的属性推理攻击。该研究首次对多种PETs在XAI不同建模阶段的集成效果进行了比较分析,旨在寻找能够最大化隐私保护,同时最小化对模型效用和解释质量负面影响的有效策略。
研究人员采用了严谨的实证评估框架。他们选取了两种主流的特征型XAI方法:基于反向传播的(如积分梯度IG、平滑梯度SG)和基于扰动的(如SHAP、LIME)。针对属性推理这一特定威胁模型,研究在四个广泛使用的基准数据集(Adult, Credit, Compas, Hospital)上进行了实验。所评估的PETs涵盖了三大类,并分别集成在AI生命周期的三个关键阶段:1) 模型前阶段:应用合成数据技术(包括CTGAN、高斯Copula、TVAE)生成替代原始数据集的隐私合规数据用于模型训练;2) 模型中阶段:在模型训练过程中集成差分隐私(DP),使用差分隐私随机梯度下降(DP-SGD)算法,并评估了不同隐私预算(ε ≈ 0.01, 0.1, 1, 5)下的效果;3) 模型后阶段:在模型生成解释后,直接对解释向量添加噪声,包括随机噪声(拉普拉斯、高斯分布)和经过校准的差分隐私噪声(DP拉普拉斯、DP高斯机制)。评估体系则围绕三个核心属性构建:隐私(通过属性推理攻击的成功率和F1分数衡量)、解释质量(通过忠实性相关度、忠实性估计和充分性等指标评估)以及效用(模型准确率和训练/推理时间)。
研究结果揭示了不同PETs集成策略的显著差异:
  • •
    隐私保护效果
    • •
      基线对比:在没有PETs防护的情况下,不同XAI方法对属性推理攻击的固有抵抗力不同。在基于反向传播的方法中,平滑梯度(SG)比积分梯度(IG)表现出更强的抵抗力;在基于扰动的方法中,LIME比SHAP更不易受攻击。Credit数据集整体上显示出最高的基线韧性。
    • •
      模型前(合成数据):使用合成数据训练模型对防御属性推理攻击效果有限且不稳定。约48%的实验案例显示攻击成功率有微弱下降(最大降幅9%,见于LIME),但52%的案例中攻击成功率反而上升,最高增幅达27%。三种合成数据算法(CTGAN, Gaussian Copula, TVAE)之间未发现显著优劣,表明仅靠数据合成不足以有效抵御此类攻击。
    • •
      模型中(差分隐私训练):差分隐私训练在防御属性推理攻击上效果不佳。44%的实验观察到有限的缓解,但56%的实验显示攻击成功率反而提升。降低隐私预算(ε,意味着更强的理论隐私保证)并未带来一致的隐私改善,反而常常导致模型效用下降。这表明记录级的DP更擅长防御成员推理攻击,而对保护训练数据中的敏感属性特征效果不彰。
    • •
      模型后(解释加噪):这是在所有设置中最有效的防御策略。在93%的攻击实验中,向解释添加噪声显著降低了攻击成功率。最佳情况下,攻击成功率降低了49.47%,使攻击效果接近随机猜测水平。高斯噪声通常比拉普拉斯噪声更有效,而随机噪声与经过校准的DP噪声效果相当,但计算开销更小。
  • •
    对解释质量的影响
    通过忠实性指标评估发现,三种PETs集成策略对解释质量的影响均很小。解释的忠实性相关度、忠实性估计和充分性等指标在引入PETs前后保持稳定或仅有微小波动。这表明,特别是模型后加噪的方法,在有效保护隐私的同时,能够很好地维持解释的可靠性和可信度。
  • •
    对模型效用和性能的影响
    • •
      模型效用:模型前(合成数据)和模型中(DP训练)阶段的方法都对模型准确率产生了负面影响。合成数据导致准确率下降最高达12%(Compas数据集),DP训练导致准确率下降最高达37%(Credit数据集,ε≈0.01时)。模型后加噪策略由于不改变模型本身,因此对模型准确率没有影响。
    • •
      性能开销:模型前阶段的数据合成过程(尤其是CTGAN和TVAE)耗时最长。模型中阶段的DP训练因逐样本梯度裁剪和加噪,训练时间显著增加,最高可达基线时间的19倍(Compas数据集)。模型后阶段的加噪操作引入的开销最小,特别是使用随机噪声时几乎可忽略不计。
结论与讨论
本研究通过系统的实证分析,明确了在可解释人工智能(XAI)中集成隐私增强技术(PETs)的最佳路径。研究得出的核心结论是:在AI流程的“模型后”阶段对生成的解释添加噪声,是当前防御属性推理攻击最有效且实用的策略。该方法能大幅降低攻击成功率(最佳情况下降低近50%),同时最大程度地保留了模型的预测准确性、解释的忠实性,并引入了最小的计算开销。
相比之下,在模型前阶段使用合成数据或在模型中阶段采用差分隐私训练,对于防御所研究的属性推理攻击效果不明确且不可靠,甚至可能适得其反,并会不可避免地损害模型效用或显著增加计算成本。此外,研究还发现,不同的XAI方法本身对隐私攻击的固有韧性存在差异,例如SG和LIME相对更具抵抗力,这在选择XAI方法时可作为初步的隐私考量。
这项研究的意义在于,它首次为XAI领域的隐私保护实践提供了清晰、基于证据的指南。它证明了在XAI系统中实现隐私与可解释性、效用三者之间的平衡是可行的,关键在于选择正确的保护技术和集成阶段。研究成果对在高风险领域安全、负责任地部署可信AI系统具有重要的指导价值,为开发下一代隐私安全的可解释AI框架奠定了坚实的基础。未来工作可探索多种PETs的组合使用,以及针对其他类型XAI方法(如基于示例的解释)和隐私攻击(如成员推理)的防御策略。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号