C-GCG:通过标记嵌入空间中的几何结构分析精确构造对抗性后缀

《Knowledge-Based Systems》:C-GCG: Precise construction of adversarial suffixes via geometric structure analysis in token embedding spaces

【字体: 大 中 小 】 时间:2026年09月30日 来源:Knowledge-Based Systems 8.0

编辑推荐:

   标题 内容 引言 本文介绍了一种新的对抗性攻击范式——Clustered Greedy Coordinate Gradient (C-GCG),它将破解攻击的方法从启发式的离散令牌替换转变为结构化的几何计算。通过利用低维令牌嵌入

  
标题 内容
引言 本文介绍了一种新的对抗性攻击范式——Clustered Greedy Coordinate Gradient (C-GCG),它将破解攻击的方法从启发式的离散令牌替换转变为结构化的几何计算。通过利用低维令牌嵌入流形中的内在紧凑性、可分性和“语义口袋”分布,C-GCG 能够生成高度精确的对抗性后缀,从而迫使大型语言模型(LLMs)产生违反伦理规范、社会价值观或法规的输出。
C-GCG 的几何分析 本文对低维嵌入流形进行了数学分析,揭示了“语义口袋”的存在——即高梯度令牌的局部聚集。通过应用集群级别的结构处理,我们准确地捕捉到了这些空间分布模式,为生成强大且语义连贯的对抗性干扰奠定了理论基础。
级联优化框架 我们提出了一个三阶段(分析、排序、生成)的框架,用于精确的后缀构建。该框架利用多目标帕累托算法来同时最大化攻击效果和语义一致性,有效避免了局部次优陷阱。此外,还引入了一种逐渐细化的几何搜索策略,以增强全局探索能力并显著提高攻击成功率。
C-GCG 攻击与实证验证 基于这些技术,我们开发了 Clustered Greedy Coordinate Gradient (C-GCG) 破解框架。在经过验证的安全对齐 LLMs 上的广泛评估表明,C-GCG 在高攻击成功率和计算效率之间取得了卓越的平衡。全面的消融研究进一步验证了利用流形几何属性进行对抗性攻击的鲁棒性和有效性。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号