HFL-Deflect:分层联邦学习中针对自适应协同投毒攻击的防御框架
《Journal of Information Security and Applications》:HFL-Deflect: Defence framework against adaptive coordinated poisoning attacks in hierarchical federated learning
【字体:
大
中
小
】
时间:2026年10月01日
来源:Journal of Information Security and Applications 4.4
编辑推荐:
# 摘要
层次化联邦学习(HFL)通过将客户端组织为由边缘服务器管理的地理稀疏集群,解决了分布式机器学习中的可扩展性问题。然而,这种架构引入了对高级对抗协调的脆弱性,即传统为联邦学习设计的防御手段无法检测跨越多个集群的攻击。在本工作中,我们提出了一种自适应协调数据投毒攻击(
# 摘要
层次化联邦学习(HFL)通过将客户端组织为由边缘服务器管理的地理稀疏集群,解决了分布式机器学习中的可扩展性问题。然而,这种架构引入了对高级对抗协调的脆弱性,即传统为联邦学习设计的防御手段无法检测跨越多个集群的攻击。在本工作中,我们提出了一种自适应协调数据投毒攻击(aCDP),这是一种新型攻击,其中分布在多个边缘服务器上的女巫攻击者在外部女巫环境中相互协作,通过彼此共享本地模型更新,并战略性地更新模型参数以绕过现有的检测机制。与以往的投毒策略不同,aCDP利用客户端的地理隔离和女巫之间的部分协调,在边缘层面模拟良性行为,同时集体降低全局模型的性能。我们证明,aCDP将攻击成功率提高到约60%,并在现有最先进的防御措施下降低了MNIST数据集上目标类别的准确率。为了应对这一威胁,我们设计了HFL-Deflect,一个轻量级防御框架,通过跨集群分析梯度相似性和动态模式行为来识别女巫协调。通过使用相似性历史向量关联跨集群的更新模式,HFL-Deflect能够在不假设事先了解攻击时机或参与者比例的情况下检测出微妙的对抗性串通。使用多种CNN架构和联邦学习聚合策略进行的实验表明,HFL-Deflect将攻击成功率限制在20%以内,并且在aCDP攻击下准确率下降极低,性能优于现有防御手段。我们的工作探索了HFL安全中的关键盲点,并为物联网和医疗保健等现实世界的部署提供了一种健壮、可扩展的解决方案,在这些领域中客户端稀疏性和资源限制是固有的特征。
# 引言
联邦学习是一种分布式机器学习范式,多个客户端在不直接交换本地数据的情况下协作训练共享模型[1]。这种方法解决了与集中式数据收集和存储相关的日益增长的隐私问题,使得能够在具有敏感数据的领域(如医疗保健[2]、金融和个人化推荐)开发人工智能模型。联邦学习的去中心化特性提供了多项优势,包括降低通信成本、提高数据隐私和增强个性化。然而,联邦学习的分布式架构引入了新的安全漏洞,特别容易受到投毒攻击的影响[3]。在投毒攻击中,恶意客户端将损坏的数据或模型更新注入训练过程,旨在破坏全局模型的完整性和性能[4]。这些攻击后果严重,从降低模型准确率到引入后门,触发有针对性的错误分类[5]。联邦学习的去中心化和协作性质使得检测和缓解投毒攻击特别具有挑战性,因为中央服务器对单个客户端活动的可见性有限[6]。随着各领域对联邦学习的日益依赖,需要强大的防御机制来保护这些新兴威胁。
层次化联邦学习(HFL)为传统联邦学习过程引入了结构化层次。HFL不再采用直接的客户端-服务器模型进行聚合,而是使用中间聚合器,根据地理邻近性(如[7]中关于蜂窝网络的研究)、网络拓扑或组织结构等因素将客户端组织成集群。这些本地聚合器收集并处理其分配客户端的模型更新,然后将其传输到更高层级的聚合器。这种层次化聚合一直持续到顶层形成全局模型。
HFL相比传统联邦学习提供了显著优势,特别是在具有层次结构的大规模部署中。它通过分散聚合过程增强可扩展性,减少中央服务器的通信瓶颈,使其适用于大规模设备网络。HFL还最小化通信开销,因为客户端仅与本地聚合器交互,限制了数据传输。其层次化聚合通过减少通信轮次提高训练效率,导致更快的收敛,特别是在异构客户端环境中。此外,HFL非常适合具有层次结构的组织,实现了不同层级之间的高效和隐私保护的协作。HFL的层次结构虽然提供了可扩展性和效率等优势,但也引入了针对投毒攻击的新漏洞。在传统FL中,恶意客户端的影响相对受到限制,因为其个别贡献相对于所有客户端的总和。然而,在HFL中,控制较低层级少量客户端的恶意行为者或女巫可以通过战略性地投毒该层级聚合的更新来发挥不成比例的影响力。这种被投毒的聚合然后沿着层次结构向上传播,污染全局模型。Hu等人[8]提到了各种应用中的层次化联邦学习架构,隐含地突出了投毒攻击可能利用的扩展攻击面。
在HFL中检测和缓解投毒攻击特别具有挑战性,这归因于多级聚合过程。层次结构引入了新的漏洞,因为控制较低层级少量客户端的女巫可以缓慢地在边缘层级投毒聚合更新。这些被投毒的聚合随后沿着层次结构向上传播,污染全局模型。这种复杂的、多阶段的聚合过程使得中央服务器难以识别和隔离攻击源,阻碍了有效的缓解工作。
Zhang等人[9]引入了一种层次化区块链框架来保护车联网中使用联邦学习进行知识共享的安全性,但也承认了协作学习中固有的安全问题。该框架提出了一种层次化方法,将车辆和基础设施分组,每组维护一个区块链账本来记录联邦学习模型。这种结构结合轻量级的知识证明共识机制,旨在利用区块链的防篡改特性来缓解恶意攻击。虽然未明确解决特定攻击类型,但作者建议该框架增强了动态车联网环境中知识共享的安全性和效率。然而,需要开发针对HFL独特特征的健壮防御机制,以保护免受新兴投毒攻击。
本文对层次化联邦学习(HFL)的研究做出了四项重要贡献,重点是解决女巫攻击和投毒攻击带来的挑战:
- 我们提出了一种自适应协调数据投毒攻击,该攻击由HFL环境中的女巫发起,通过将女巫客户端稀疏地分布在多个边缘服务器上。
- 提出了一种新型防御机制HFL-Deflect,用于缓解HFL中协调女巫攻击的影响,增强聚合过程的安全性及可靠性,以对抗对抗性操纵。
- 据我们所知,本研究是首次尝试调查HFL中不同协调程度对女巫客户端的影响,为不同程度的攻击复杂性如何影响系统性能和模型完整性提供了更深入的理解。
- 我们使用先进的卷积神经网络(CNN)模型进行了广泛的实验,评估了我们的防御策略对抗投毒攻击的有效性,为其稳健性和在现实HFL场景中的实际效益提供了实证支持。
本文的结构安排如下:第2节回顾了该领域的相关工作,为研究提供背景和上下文。第3.1节概述了系统性的威胁模型,详细说明了HFL中的假设和潜在漏洞。在第3.2节中,我们提出了防御策略,重点介绍了旨在缓解协调女巫攻击的关键机制。第4至6节提供了所提出防御的实验评估,包括性能比较和针对数据投毒攻击的稳健性评估。最后,第7节总结了论文的关键发现,并为未来研究方向提供了指引。
## 相关工作片段
### 联邦学习中的投毒攻击
联邦学习已成为一种有前景的范式,用于在不直接共享数据的情况下对去中心化数据集进行机器学习模型训练。然而,其分布式性质使联邦学习容易受到各种安全威胁,特别是投毒攻击,其中恶意行为者注入损坏的数据或模型更新以破坏全局模型的完整性和性能。这些攻击可大致分为数据投毒和模型投毒。
**数据投毒**:在数据投毒中……
## 所提出的方法
本节提供了对所提出方法的详细解释。首先讨论了威胁模型,重点说明了女巫攻击者可能使用的协作策略以及如何绕过当前针对HFL数据投毒攻击的最先进防御手段。讨论了绕过现有防御的aCDP攻击策略。在接下来的小节中,我们提出了算法HFL-Deflect,旨在通过识别和应对来缓解HFL中的这些自适应攻击。
## 实验设置
本节讨论了用于衡量所提出的防御策略HFL-Deflect在HFL中相对于联邦学习中针对标签翻转攻击的几种最先进防御的有效性所使用仿真环境。考虑了不同的CNN架构和基线模型,以强调与现有解决方案相比新方法的优点,提供了对其有效性和对抗aCDP攻击韧性的清晰视角。
## 结果与讨论
本节展示并分析了通过实验获得的评估不同聚合策略和对抗攻击场景下HFL性能的结果。使用HFL-Deflect获得的结果与基线场景进行了比较。评估所考虑的性能指标包括攻击成功率、源准确率、目标准确率、总准确率、精确率和召回率。我们还讨论了协调程度的影响。
## 消融实验
为了量化HFL-Deflect每个组件的个别贡献,通过选择性地禁用其三个核心模块进行了一项消融实验:边缘服务器上的客户端聚类、历史行为跟踪和全局服务器上的集群间相似性分析。设C、H和I分别表示客户端聚类、历史跟踪和集群间相似性分析。因此,完整的HFL-Deflect框架表示为C+H+I。所有消融变体均……
## 结论
在本文中,我们提出了一种名为HFL-Deflect的新型防御框架,用于HFL环境中的数据投毒攻击,特别针对女巫通过协调发起的自适应攻击。我们的结果表明,增加女巫协调会显著降低基线场景中的模型性能,影响多种架构和聚合策略下的攻击成功率、召回率、精确率和准确率。在所提出防御机制下,模型保持稳健……
## CRediT作者贡献声明
Dnyanesh Khedekar:原创草案撰写、可视化、软件、资源、方法论、数据管理、概念化。Tanmaya Mahapatra:审阅与编辑、验证、监督。Amitesh Singh Rajput:审阅与编辑、验证、监督、概念化。
## 利益冲突声明
作者声明不存在已知的竞争性财务利益或个人关系,这些利益或关系可能被认为影响了本文所述的工作。
Dnyanesh Khedekar | Tanmaya Mahapatra | Amitesh Singh Rajput
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号