《Neurocomputing》:Balance forgetting and remembering: An extension of machine unlearning for policy updates in machine learning-based access control
编辑推荐:
针对机器学习访问控制(MLBAC)中实时政策更新面临的稳定性与可塑性平衡难题,本文提出双阶段框架BFR。首先利用一阶梯度影响函数选择性遗忘旧策略,再通过分布感知校准快速适应新规则,在避免全量重训练和二阶Hessian计算的同时,有效维持模型对非更新策略的决策稳定性,显著提升实时性要求下的系统安全性。
刘宁波|段佳|张连冲|刘曦|任伟|朱天庆|闵格勇
中国地质大学计算机科学学院,武汉,430078,中国
摘要
随着现代信息生态系统复杂性的不断增加,基于机器学习的访问控制(MLBAC)已成为自主决策的关键范式。然而,在这些训练好的模型中更新策略是一个巨大的挑战,因为这需要具备选择性删除过时规则的能力,这一过程本质上被称为机器遗忘,同时还需要快速吸收新规则。现有的遗忘技术往往无法在严格的安全环境实时约束下满足这两个需求。为了解决这个问题,我们提出了平衡遗忘与记忆(BFR)这一针对基于梯度的MLBAC的新框架。与那些难以解决稳定性与灵活性之间困境的标准方法不同,BFR引入了一个双阶段机制:首先是一个基于梯度的遗忘阶段,使用一阶影响函数明确消除过时策略的影响;接着是一个考虑分布的记忆阶段,能够在保持平衡的子集上快速适应新规则。理论上,我们为遗忘阶段制定了梯度残差界限,并在标准凸性假设下分析了记忆阶段的收敛性质。实证比较表明,BFR有效地平衡了准确性和适应性,同时具备了适合实时策略更新的高效率,这对系统安全至关重要。
引言
在现代信息系统中,数据管理的复杂性不断增加,使得传统的访问控制模型(如基于角色的访问控制(RBAC)和基于属性的访问控制(ABAC)难以跟上步伐。随着应用程序规模的扩大,这些基于规则的模型变得效率低下且难以管理,因为它们依赖于数量和复杂性迅速增加的预定义规则[1]、[2]、[3]。为了解决这些限制,基于机器学习的访问控制(MLBAC)[4]、[5]、[6]、[7]、[8]应运而生,它利用数据驱动的方法来增强决策能力并减少对手动规则定义的依赖。此外,MLBAC中的决策效率不受系统复杂性的影响,为现代访问控制机制提供了可扩展的解决方案。尽管执行策略更新是一个常规操作,但由于动态环境的严格实时安全要求,这仍然面临重大挑战。
策略更新是访问控制机制的基本要求[9]、[10]。在MLBAC中,更新过程并不像传统访问控制系统那样简单。在传统系统中,决策引擎依赖于预定义的规则,允许管理员根据新需求快速调整策略。这种方法相对简单,因为每次策略更新都直接对应于规则集的修改。
相比之下,MLBAC中的决策引擎基于使用用户元数据、资源元数据或授权元组训练的机器学习模型。因此,这带来了重大挑战,因为每次策略更新都必须确保模型能够高效地遗忘过时规则,同时快速适应新规则,而不会影响未更新策略的决策结果。例如,如图1所示,管理员可能需要修改现有的决策引擎模型以撤销Alice对文件1的访问权限,同时确保这一变化不会干扰其他策略的决策结果。在MLBAC中平衡这些相互冲突的要求特别具有挑战性。在许多实际应用中,更新必须在亚秒级延迟内完成,以避免安全漏洞并能够在主动攻击期间及时采取缓解措施[11]。
包括模型重新训练、增量学习[12]和强化学习[13]在内的各种策略直观上提供了可行的解决方案来应对这一挑战。然而,这些方法往往难以在效果和效率之间取得平衡。例如,虽然重新训练可以适应新策略,但它耗时较长,并可能在延迟期间使系统面临安全风险。相反,如果仅对新策略应用增量学习或强化学习而忽略旧策略对决策引擎模型的影响,可能会导致模型性能严重下降。直观上,当模型同时从旧策略和新策略中学习相互冲突的策略时,其性能可能会显著下降[14]、[15]。
MLBAC中策略更新的一种有前景的方法是应用机器遗忘技术[16]、[17]、[18],这些技术能够选择性地移除特定数据或知识以遗忘过时策略,而无需耗时的完全重新训练。这使得遗忘在理论上非常适合需要频繁更新的动态环境,尤其是在对系统安全至关重要的实时约束下。尽管有这些理论上的优势,将现有的遗忘范式应用于MLBAC仍然存在问题。像SISA[9]、[19]这样的精确遗忘方法依赖于重新训练不连续的数据片段,引入了显著的延迟和存储开销,这些开销在访问控制系统频繁的细粒度更新下难以扩展。相反,最先进的近似方法(如SalUn[20])通常依赖于二阶Hessian计算。在MLBAC的背景下,由于one-hot编码,特征空间是高维且稀疏的,计算Hessian在计算上非常困难,不适合实时响应。关键的是,这两种方法都没有明确解决策略更新特有的“稳定性-灵活性”困境——即如何快速获取新权限而不灾难性地遗忘已建立的访问规则。
为了填补这一空白,我们提出了平衡遗忘与记忆(BFR)这一针对基于梯度的MLBAC的新框架。BFR将更新过程分解为两个数学上基于阶段的步骤。通过利用一阶影响函数进行有针对性的遗忘,并采用考虑分布的校准进行记忆,BFR避免了重新训练和Hessian求逆的巨大成本[21]、[22],提供了一种确保适应性和准确性平衡的高效解决方案。我们的主要贡献总结如下:
•我们提出了BFR,这是一个针对基于梯度的MLBAC系统的新型框架。它利用一步梯度基础影响函数快速遗忘过时策略,并采用考虑标签分布的记忆策略来确保对新策略的适应性,从而避免了完全或分段重新训练的巨大开销以及昂贵的二阶Hessian计算。
•我们引入了一种全面的评估方法,包括适应-准确性权衡(AFT)曲线和最小距离到最优(MDO)指标,以定量评估和平衡策略更新中模型准确性和适应性之间的冲突要求。
•我们为提出的BFR框架提供了理论依据,通过梯度残差界限证明了遗忘阶段的有效性,并在标准凸性假设下分析了记忆阶段的稳定性。
本文的结构如下。第2节介绍了相关工作。第3节阐述了策略更新问题。第4节详细介绍了BFR。第5节进行了实证分析。第6节总结了本文。
部分摘录
基于机器学习的访问控制
人工智能(AI)在访问控制中的整合已经从辅助策略挖掘发展到自主决策引擎。刘等人[5]率先将机器学习集成到访问控制中,开发了一个权限决策引擎,将访问请求转换为向量表示,随后利用随机森林分类器来缓解大规模分布式系统中的性能瓶颈。在此基础上,Nobi
问题阐述
本节正式定义了MLBAC系统中的策略更新,包括策略结构、更新场景以及适应不断变化的安全需求所需的具体更新任务。
提出的方案
在本节中,我们介绍了BFR,这是一种针对MLBAC策略变化下的两阶段更新机制。BFR通过遗忘阶段和记忆阶段处理多个策略更新任务(PUT),避免了在整个策略集上进行完全重新训练。我们首先概述了BFR的整体工作流程,然后详细阐述了基于梯度的更新算法,并最终分析了其理论有效性。
实证分析
在本节中,我们对所提出的方法进行了全面的实证分析。首先,我们概述了实验设置,包括硬件和数据集规格。然后,我们描述了用于评估方法性能的评估指标。接下来,我们通过详细分析比较了BFR在各种测试场景下的性能与其他遗忘方法的表现。最后,我们研究了关键参数设置对模型性能的影响
结论
在本文中,我们提出了一种称为平衡遗忘与记忆(BFR)的机器遗忘扩展方法,以解决MLBAC中策略更新的挑战。BFR分为两个阶段:使用梯度影响函数移除过时策略以防止冲突,并在反映原始标签分布的小数据集上记住新策略。这种双重方法确保了对新策略的适应性,同时保持了對未更新策略的准确性,特别是在
CRediT作者贡献声明
刘宁波:撰写——原始草稿,软件,形式分析,概念化。段佳:资金获取,数据整理。张连冲:软件,方法论,形式分析。刘曦:资源,调查。任伟:撰写——审阅与编辑,监督。朱天庆:撰写——审阅与编辑,形式分析。闵格勇:撰写——审阅与编辑,监督,方法论。
利益冲突声明
作者声明他们没有已知的财务利益或个人关系可能影响本文报告的工作。
致谢
本研究得到了国家地球观测数据中心(编号NODAOP2024007)、湖南省地理信息安全与应用工程技术研究中心的开放课题(编号HNGISA2023001)、江苏省自然资源厅的地质数据智能应用技术创新中心(GDIATIC-XM-202506)以及苏州大学省级高校数据智能与高级计算重点实验室的支持。
刘宁波目前在中国地质大学计算机科学学院攻读博士学位。自本科阶段起,他一直从事信息安全领域的研究。他的研究兴趣包括区块链、密码学和访问控制理论。