
-
生物通官微
陪你抓住生命科技
跳动的脉搏
跨域联邦学习中四种隐私增强机制的训练保密性与最终模型泄露对比评估
《Scientific Reports》:Local versus central differential privacy under final-model privacy attacks in low-client-count cross-silo federated learning
【字体: 大 中 小 】 时间:2026年09月27日 来源:Scientific Reports 4.9
编辑推荐:
摘要联邦学习减少了集中收集原始数据的需求,但并不能防止通过客户端更新、聚合消息或最终发布的模型造成的隐私泄露。本研究在低客户端数量、全客户端参与的跨域(cross-silo)设置下,对比了本地差分隐私(LDP)、集中式差分隐私(CDP)、记录级差分隐私随机梯度下降(DP-SG
联邦学习减少了集中收集原始数据的需求,但并不能防止通过客户端更新、聚合消息或最终发布的模型造成的隐私泄露。本研究在低客户端数量、全客户端参与的跨域(cross-silo)设置下,对比了本地差分隐私(LDP)、集中式差分隐私(CDP)、记录级差分隐私随机梯度下降(DP-SGD)和安全聚合(SecAgg)四种机制,实验涵盖图像分类、表格型二分类以及两个时间序列预测任务共四个数据集。本研究将训练阶段的保密性与最终模型的泄露问题分开评估,并在两种最终模型隐私攻击——成员推断和目标重建——下评估了发布的模型。在这些攻击下,SecAgg对最终模型的泄露几乎没有任何改善:它保护了训练过程中各客户端更新的保密性,但并未为发布模型提供任何\((\varepsilon ,\delta )\)保证,因此其评估定位为一种补充性的训练阶段机制,其主要代价是约49%至106%的训练时间开销,具体取决于数据集和客户端数量。差分隐私能够更直接地约束最终模型的泄露,但其实际价值取决于隐私保护与保留效用之间的平衡。在所评估的配置中,在各客户端本地通过裁剪和扰动单样本梯度实现的记录级DP-SGD保有了最佳的效用表现,在所有任务上最接近无隐私保护的基线,并且在图像分类任务上仍保持可用——而两种客户端贡献级机制在该任务上均退化至随机猜测水平。在客户端级机制中,CDP在相同隐私预算下表现优于或等同于LDP,因为在使用单一一致的会计算法时,两者共享相同的噪声校准方式,而LDP会额外引入\(\sqrt{M}\)倍的聚合噪声;而DP-SGD的优势则来源于采样带来的隐私放大效应,使其大约仅需客户端级噪声十分之一的量即可达到给定的隐私预算。在两种最终模型攻击下,发布的模型泄露极少:在分类任务上,成员推断的结果接近随机猜测;在时间序列任务上虽有轻微且受时间因素混杂的影响而有所升高,但目标重建从未超越无信息基线。这些发现支持根据攻击者模型、信任假设、隐私单位和可接受的效用损失来选择隐私增强机制,而非仅凭机制名称来决定。