《Journal of Visual Communication and Image Representation》:Theft model-based black-box adversarial attack in embedding space
编辑推荐:
本文提出了一种创新的黑盒对抗攻击方法,通过生成对抗网络(GAN)训练替代模型,结合嵌入空间自然进化策略(NES)搜索,有效提升了对抗样本的迁移性。该方法在CIFAR10和SVHN数据集上的实验表明,其替代模型模仿精度高达目标模型的0.99倍,非定向攻击成功率较TREMBA提升14.71%,为深度学习安全领域提供了数据无关的攻防新思路。
亮点
- •
本黑盒对抗攻击方法结合模型窃取技术与潜在空间NES搜索生成对抗样本。
- •
通过GAN实现数据无关的替代模型训练,融合对抗损失和多样性损失,迫使替代模型逼近目标模型性能;设计梯度攻击与NES结合的嵌入空间对抗样本构建方法。
- •
在CIFAR10和SVHN数据集上验证方法有效性,OUR的窃取精度达89.32%(0.93倍目标模型),非定向攻击性能超越TREMBA 14.71%。
问题陈述
给定输入样本x、真实标签y、目标模型T、错误标签?及对抗样本x*。非定向攻击需最大化y与?差异,同时满足d(x*,x)≤ε(d(·)为距离函数,ε为差异上限)。目标函数如下:
argmaxx*T(?|L(x),θ)≠y
s.t., d(x*,x)≤ε
概述
在替代模型获取阶段,我们采用生成对抗网络架构训练替代模型:生成器G与替代模型S通过竞争最大化/最小化S与T的输出差异。如图1所示,标准正态分布的随机向量z输入生成器得到合成图像x'=G(z),其输入目标模型与替代模型获得预测标签y'=T(x')。
数据集
实验使用SVHN和CIFAR10数据集。
模型结构
目标模型含VGG13/16/19、ResNet34等架构;替代模型涵盖VGG13/16/19、ResNet18/34/50、DenseNet121、Inception v3、MobileNet v2、RepVGG及ShuffleNet v2。
基线方法
对比攻击方法含Square、C&W、TREMBA、RFGSM、VMIFGSM、VNIFGSM、PGD和FGSM,参数设置与文献[42]一致。
参数
(此部分原文内容缺失)
结论
我们提出嵌入空间模型窃取的黑盒对抗攻击,包含替代模型训练和嵌入空间扰动搜索两阶段。实验表明本方法生成的替代模型与目标模型一致性更高,对抗样本迁移性显著提升。