PULSE:通过降维实现具有稳定解释的隐私保护无监督学习

《Expert Systems with Applications》:PULSE: Privacy-Preserving Unsupervised Learning with Stable Explanations via Dimensionality Reduction

【字体: 大 中 小 】 时间:2026年08月28日 来源:Expert Systems with Applications 9.4

编辑推荐:

   摘要 无监督降维和聚类流水线广泛应用于医疗、基因组学和金融等领域的高维数据探索性分析。然而,缺乏真实标签,加上嵌入和聚类算法的随机特性,往往导致输出结果难以解释,且在不同重复执行之间可能存在显著差异。当引入差分隐私(DP)机制时,这些挑战会进一步加剧,因为注入的噪声可能会改变

  

摘要
无监督降维和聚类流水线广泛应用于医疗、基因组学和金融等领域的高维数据探索性分析。然而,缺乏真实标签,加上嵌入和聚类算法的随机特性,往往导致输出结果难以解释,且在不同重复执行之间可能存在显著差异。当引入差分隐私(DP)机制时,这些挑战会进一步加剧,因为注入的噪声可能会改变潜在表示并损害生成解释的一致性。现有的可解释人工智能(XAI)方法主要关注监督学习场景,或将可解释性、稳定性和隐私作为独立问题处理,导致无监督学习的统一可解释性框架存在关键空白。为了填补这一空白,我们提出了 PULSE。该可解释无监督学习框架整合了主成分分析(PCA)和统一流形近似和投影(UMAP)用于降维(DR),K 均值聚类用于结构发现,以及模型无关的解释技术(包括 SHAP 和 LIME)用于事后解释。差分隐私被整合到降维阶段,以保护敏感信息,同时保留数据的主要结构特征。此外,我们引入了聚类解释一致性分数(CECS),这是一种新颖的指标,用于量化解释在随机运行和不同隐私预算下的稳定性。在四个真实世界数据集上的实验评估表明,PULSE 在不同隐私预算下改善了四个数据集中三个的解释稳定性。结果还表明,CECS 引导优化的有效性取决于数据集特征,如维度、特征冗余度以及对隐私诱导扰动的敏感性。

引言
人工智能(AI)和机器学习(ML)系统正越来越多地部署在高风险领域,包括医疗、金融和网络安全,在这些领域,仅靠预测性能是不够的,还需要透明度、鲁棒性和以人为本的可解释性。因此,可解释性已成为 AI 系统可信部署的关键要求。最近的研究强调,可解释性不仅限于培养信任和责任追究,还包括以用户为中心的评价、解释质量以及将可解释模型实际整合到现实世界决策过程中,特别是在敏感应用领域 Aysel, Cai, & Prugel-Bennett (2024); Chormai, Herrmann, Müller, & Montavon (2024); Kim & Chae (2024); Rong et al. (2024); Zhuo & Ge (2024).

这些挑战在无监督学习中尤为突出,在那里进行聚类和降维时无法获取真实标签。因此,生成的结构和表示往往对随机初始化、特征冗余和学习到的潜在空间的质量敏感。可解释聚类和特征感知深度聚类的最新进展表明,表示学习、特征选择和可解释性应共同处理,而不是作为独立任务 Doo & Kim (2024a); Gui et al. (2024). 在隐私敏感环境中,这一挑战变得更加复杂,因为隐私保护机器学习技术可能会影响学习到的表示和下游解释方法的行为,从而影响模型解释的可靠性和一致性 Khavkin & Toch (2025a); Qin et al. (2024); Zhang et al. (2024b).

事后解释技术,如 SHAP 和 LIME,被广泛采用以解释复杂的机器学习模型。然而,最近的研究表明,特征归因在不同解释配置、模型表示和评估协议之间可能会有显著变化 Chormai et al. (2024); Kim & Chae (2024); Zhuo & Ge (2024). 这一局限性在无监督学习流水线中尤为关键,因为随机降维和聚类过程可能会在生成解释之前改变底层数据结构。差分隐私(DP)机制的引入进一步加剧了这一挑战,因为注入的噪声可能会扰动潜在表示并降低特征归因的一致性。因此,在隐私保护、可解释性和解释稳定性之间出现了一个基本的权衡 Khavkin & Toch (2025a); Qin et al. (2024). 这些观察结果突显了对一个统一框架的需求,该框架明确评估解释稳定性,而不是假设可解释性方法在随机和隐私约束条件下依然可靠。

为了克服这些局限性,我们提出了 PULSE,一个用于降维驱动数据分析的可解释无监督学习框架。该框架整合了 PCA 和 UMAP 用于降维,K 均值聚类用于结构发现,以及 SHAP 和 LIME 等模型无关的解释技术,以提供对结果聚类结构的可解释见解。通过在统一流水线中结合表示学习、聚类和可解释性,PULSE 促进了对高维数据的系统分析,同时考虑了随机性和隐私保护转换带来的挑战。本文的主要贡献总结如下:
•我们提出了 PULSE,一个统一的所可解释无监督学习框架,该框架整合了降维、聚类和事后可解释性,以支持在隐私约束下对高维数据的解释。
•我们将 DP 整合到降维阶段,使得能够在保留有效聚类和解释所需的主导结构特征的同时保护敏感信息。
•我们引入了聚类解释一致性分数(CECS),这是一种新颖的评估指标,用于量化随机模型执行和不同隐私预算(?)下解释的稳定性。
•我们来自医疗和金融领域的多个真实世界数据集上进行了广泛的实验,以评估隐私保护、可解释性和解释稳定性之间的相互作用,证明了所提出框架的实际适用性和鲁棒性。

本文其余部分组织如下。第 2 节回顾了关于可解释无监督学习、解释稳定性和隐私保护分析的有关文献。第 3 节介绍了 PULSE 的基础知识。第 4 节提出了系统模型和问题 formulation。第 5 节描述了所提出的框架和 CECS。第 6 节报告了实验设置和评估结果。第 7 节讨论了所提出方法的局限性,并概述了未来的研究方向。最后,第 8 节总结了全文。为了促进透明度和可重复性,与所提出的 PULSE 框架相关的源代码和实验工件已公开于:https://github.com/gunjan187/PULSE.

章节片段
文献综述
本节将 PULSE 置于三个密切相关研究领域之中:(A) 可解释无监督学习和可解释聚类框架,(B) 事后特征归因方法在随机学习过程下的鲁棒性和稳定性,以及 (C) 隐私保护分析,包括模型解释发布相关的隐私风险。

PULSE 的基础知识
本节介绍了所提出的 PULSE 框架的理论基础。具体而言,它概述了无监督学习、包括 SHAP 和 LIME 的事后解释技术,以及构成所提出方法基础的差分隐私原则。

系统模型
所考虑的系统涉及一个数据所有者,该所有者发布一个高维、无标签数据集用于探索性分析,同时保持隐私保护。数据集可能包含敏感信息,特别是在医疗、基因组学、金融和基于传感器的监控等领域。由于没有可用的真实标签,系统旨在通过降维、聚类和事后解释生成来发现隐藏模式。
如图 1 所示,该

总体架构
所提出的 PULSE 框架由六个主要阶段组成:数据预处理、DP-PCA、基于 UMAP 的非线性嵌入、K 均值聚类、基于 SHAP/LIME 的解释生成以及基于 CECS 的稳定性评估,如图 2 所示。首先,输入数据经过预处理和标准化,以准备降维。然后应用 DP-PCA 以获得隐私保护表示,同时减少单个记录的影响。
接下来,使用 UMAP 生成非线性

数据集
为了评估所提出的 PULSE 框架的鲁棒性和泛化能力,从生物医学和基于传感器的应用领域中选择了四个公开可用的数据集。这些数据集在维度、特征复杂性和数据模态方面表现出多样化的特征,能够全面评估隐私保护、可解释性和解释稳定性。
•乳腺癌基因表达数据集由高维转录组特征组成

讨论
本研究介绍了 PULSE,一个隐私保护的可解释无监督学习框架,在统一流水线中整合了差分隐私降维、聚类和事后可解释性。该框架的一个关键贡献是提出的 CECS,它使得能够系统地评估随机执行和不同隐私预算下解释的稳定性。与主要关注聚类质量或的常规评估方法不同

结论
本文提出了 PULSE,一个隐私保护的可解释无监督学习框架,在统一流水线中整合了差分隐私降维、聚类和事后可解释性。为了评估解释的可靠性,我们引入了聚类解释一致性分数(CECS),它量化了随机执行和不同隐私预算下解释的稳定性。在四个数据集上的实验评估表明,CECS 引导的

作者贡献
Gunjan Sharma:概念化、方法论、软件、调查、形式
Fatemeh Ansarizadeh:概念化、方法论、验证、监督、形式分析、写作–审阅与编辑。
Muneeb Ul Hassan:概念化、方法论、验证、监督、审阅与编辑。

利益冲突声明
作者声明,他们没有已知的相互竞争的经济利益或个人关系,这些关系可能会影响本文报告的工作。

Gunjan Sharma|Fatemeh Ansarizadeh|Muneeb Ul Hassan
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号