一种随机深度特征选择方法,用于减轻可迁移的对抗性攻击

《IEEE Transactions on Network and Service Management》:A Random Deep Feature Selection Approach to Mitigate Transferable Adversarial Attacks

【字体: 大 中 小 】 时间:2025年12月08日 来源:IEEE Transactions on Network and Service Management 5.4

编辑推荐:

  机器学习和深度学习正重塑网络、行业及生活方式,但其对抗攻击漏洞仍存。现有防御机制易受高级攻击或局限于特定攻击类型。本研究提出随机深度特征选择方法,有效缓解攻击转移性,提升模型对抗鲁棒性。实验表明该方法对标签翻转攻击防护率超80%,对主流探索性攻击(如DeepFool、FGSM等)防护率超60%,在UNSW-NB15数据集上验证了对抗训练与测试阶段防御效果。

  

摘要:

机器学习和深度学习正在重塑我们的网络、行业、服务以及生活方式。然而,这些智能系统对对抗性攻击的脆弱性仍然是一个严重的问题。一方面,最近的研究表明对抗性攻击在不同模型之间的转移性具有潜力;另一方面,现有的防御机制容易受到高级攻击的攻击,或者通常仅限于某些类型的攻击。本研究提出了一种随机深度特征选择方法,以减轻这种转移性并提高模型对抗对抗性操纵的鲁棒性。我们的方法旨在加强深度模型对 poisoning(例如标签翻转)和探索性攻击(例如 DeepFool、BIM、FGSM、I-FGSM、L-BFGS、C&W、JSMA 和 PGD)的防御能力,这些攻击既发生在训练阶段也发生在测试阶段,还包括基于迁移学习的对抗性攻击。我们考虑了涉及完全知情攻击者和半知情攻击者的场景。通过在著名的 UNSW-NB15 数据集上进行的大量实验来评估我们方法的性能,该数据集包括真实世界和合成数据,涵盖了广泛的现代攻击行为和良性活动。结果表明,我们的方法使目标网络在对抗标签翻转 poisoning 攻击时的有效性提高了 80% 以上,在对抗所有主要类型的探索性攻击时的有效性提高了 60% 以上。

引言

机器学习(ML)和深度学习(DL)通过有效解决各种挑战,在我们的生活中发挥着关键作用,其结果往往与人类相似甚至更好 [1]。它们利用大量数据提供个性化体验、做出智能决策,并自动化各种过程,如导航、自动驾驶、物体和面部识别、恶意软件检测以及各种其他应用 [2]。然而,即使在训练或测试过程中出现微小的干扰,也可能严重影响神经网络(NN)的输出,显著增加错误输出的可能性。这种对操纵的脆弱性促使恶意行为者针对这些网络,从而突显了研究对抗性机器学习(Adv-ML)中漏洞的重要性 [3]。为了实现这一目标,有两种不同的攻击策略:因果攻击和探索性攻击。因果攻击是指攻击者篡改训练集并破坏网络以提供错误的预测,而探索性攻击(也称为规避攻击)是指攻击者在测试阶段针对网络,使其表现出危及网络完整性的行为。尽管在计算机视觉领域对抗性攻击的研究非常广泛,但解决其对网络安全的影晌仍然是一个艰巨的挑战。当前基于人工智能的入侵检测系统(AI-IDS)是基于特征向量的模型,这些模型具有异常检测的能力,但也使系统容易受到对抗性攻击。攻击者可以改变数据包的传输时间或流量持续时间,从而使流量仍然能够通过检测系统。考虑到基于 AI 的 IDS 的日益集成,减轻特征空间中的攻击以增强网络安全变得至关重要。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号