EMPRA:针对神经排序模型的嵌入扰动排名攻击

《ACM Transactions on Information Systems》:EMPRA: Embedding Perturbation Rank Attack against Neural Ranking Models

【字体: 大 中 小 】 时间:2026年03月30日 来源:ACM Transactions on Information Systems

编辑推荐:

  本文提出EMPRA方法,通过扰动句子级嵌入实现对抗攻击,使目标文档在MS MARCO等数据集上排名从51-100跃升至前10,且不依赖代理模型提升鲁棒性。

  
要查看此由人工智能生成的摘要,您必须具有高级访问权限。

摘要

摘要

最近的研究表明,神经信息检索技术可能容易受到对抗性攻击的影响。对抗性攻击旨在操纵文档的排名,目的是让用户接触到特定的内容。在本文中,我们介绍了嵌入扰动排名攻击(EMPRA)方法,这是一种针对黑盒神经排名模型(NRMs)的新型对抗性攻击方法。EMPRA通过操纵句子级别的嵌入,引导它们指向与查询相关的内容,同时保持语义的完整性。这一过程生成的对抗性文本能够与原始内容无缝融合,并且对人类来说几乎不可察觉。我们在广泛使用的MS MARCO V1语篇集合以及TREC DL 2019和TREC DL 2020基准测试中进行了广泛的评估,证明了EMPRA在提升特定目标文档在排名结果中的位置方面的有效性。具体来说,在MS MARCO开发集的查询中,EMPRA成功地将原本排名在51-100之间的近96%的目标文档重新排序到前十名之内。此外,EMPRA在生成对抗性文档时不依赖于替代模型,从而增强了其在现实环境中对抗各种目标NRMs的鲁棒性。

人工智能摘要

人工智能生成的摘要(实验性)

此摘要是使用自动化工具生成的,并非由文章作者撰写或审核。它旨在帮助发现内容、帮助读者评估相关性,并协助来自相关研究领域的读者理解本文的工作。它旨在补充作者提供的摘要,后者仍是文章的官方摘要。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

要查看此由人工智能生成的简单语言摘要,您必须具有高级访问权限。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号