基于视觉模式的水印技术,用于大型语言模型生成的文本

《Neurocomputing》:Visual pattern-based watermarking for large language model generated text

【字体: 大 中 小 】 时间:2026年03月24日 来源:Neurocomputing 6.5

编辑推荐:

  基于概率的模式化水印方法嵌入结构化二进制图像模式到LLM生成文本,检测时结合统计阈值判断与可视化图像重建,在保持文本流畅性的同时提供人类可理解的验证证据,实验验证了该方法在多个大模型上的有效性及对抗场景下的鲁棒性。

  
沙里克·巴希尔(Shariq Bashir)
沙特阿拉伯利雅得伊玛目穆罕默德·伊本·沙特伊斯兰大学(Imam Mohammad Ibn Saud Islamic University, IMSIU)计算机与信息科学学院

摘要

大语言模型(LLM)水印技术通过在生成的文本中嵌入隐藏信号,来实现对LLM生成内容的可靠识别。传统的概率水印方法会在标记层面引入统计偏差,并通过基于阈值的假设检验来检测这种偏差。虽然这些方法在自动化环境中有效且易于解释,但它们为人类用户提供的关于水印存在程度以及文本哪些部分由LLM生成的解释性证据非常有限。在法庭和法律案件中,这种可视化和可解释的证据尤为重要,因为简单的“是/否”答案(是否存在水印)往往不够充分。本文提出了一种基于模式的概率水印方法,该方法通过基于密钥的标记采样偏差将结构化的二值图像模式嵌入到LLM生成的文本中。在检测过程中,水印可以以二维视觉模式的形式被还原出来。这使得除了标准的基于阈值的决策标准外,还可以通过视觉检查来确认水印的存在,而不会影响自动检测的效率。在OPT-1.3B、OPT-2.7B和LLaMA-7B上的实验表明,所提出的方法在干净环境和对抗性环境中都能达到与基线概率水印方法相当的检测性能,同时保持了文本的流畅性和语义准确性。人类评估研究进一步表明,在不同的对抗性场景下,恢复的水印模式仍然具有可识别性,这展示了这种方法作为补充性人类可验证证据的潜力。

引言

大型语言模型(LLMs)的快速采用导致了自动生成文本量的空前增长。这一增长涵盖了内容创作、教育、客户支持、软件开发和科学写作等多个应用领域[9]、[26]、[41]。尽管这些模型在提高生产力和可访问性方面带来了显著的好处,但其广泛部署也引发了对内容真实性[16]、[39]、[54]、知识产权保护、错误信息以及责任归属[8]、[17]、[55]等方面的严重担忧。为了解决这些问题,人们越来越需要可靠且强大的机制来判定某段文本是否由LLM生成[12]、[20]、[30]、[38]、[44]。一种广泛研究的解决方案是在LLM生成的文本中使用概率嵌入水印[30]。在这种方法中,LLM在每个标记生成步骤中,使用一个秘密密钥、哈希函数和前文上下文将词汇表划分为两个部分(绿色列表和红色列表),然后通过引入轻微且可控的偏差来从绿色列表中以稍高的概率采样标记。在长序列中,这种偏差会产生一个可检测的统计信号,用于验证文本是否由带有水印的LLM生成。概率水印只是几种LLM水印技术之一;其他方法依赖于不同的嵌入和检测机制。在这项工作中,我们专注于概率水印技术,并通过引入基于结构的模式来扩展传统方法。
概率水印的一个实际限制是秘密密钥不能公开[14]。如果泄露密钥,对手就可以移除现有的水印或伪造新的水印。因此,验证通常通过一个公开API进行,该API隐藏密钥并仅返回决策结果。传统的概率水印检测器执行基于阈值的统计测试:它们计算与水印偏差一致的标记数量,并将此值与预定义的阈值进行比较。输出是一个二进制决策:“带水印”或“无水印”。这种测试在统计上是合理的且易于理解的。然而,它为人类用户提供的关于水印存在程度以及文本哪些部分由LLM生成的解释性证据非常有限。在法律和法庭场景中,简单的“是/否”答案往往不够充分。例如,在版权纠纷中,展示水印的存在程度及其在文本中的位置非常重要。直接揭示绿色和红色标记的位置会暴露秘密密钥,从而危及所有先前生成的水印内容的安全性。因此,需要一种既能保持概率方案安全性,又能提供可解释和人类可验证的水印存在证据的水印方法。
为了解决这一限制,本文提出了一种针对LLM生成文本的新型基于模式的水印方法。该方法通过使用受控偏差从绿色或红色列表中采样标记,将二值图像模式概率性地嵌入到文本中。在水印验证过程中,仍然使用标准的基于阈值的统计测试来确定水印是否存在。此外,验证过程利用哈希函数、秘密密钥和前文上下文从输入文本中重建嵌入的图像模式,并将其可视化为二维图像。如果文本包含有效的水印,重建的图像将显示出清晰且人类可识别的结构;相反,如果文本没有水印或水印被严重破坏,重建的图像将显得嘈杂且无结构。这种视觉表示为水印验证提供了一种直观且易于理解的方式。在这种设置中,自动化或大规模系统中仍然使用统计假设检验来快速检测文本是否由LLM生成。而基于模式的水印验证则为人类用户提供了补充性和易于理解的证据,以便他们可以可视化并解释水印的存在。
所提出的基于模式的水印验证方法具有几个关键优势。首先,它实现了人类可解释和可视化的验证,这在法庭分析和法律纠纷中尤其有价值。其次,它对部分文本修改具有鲁棒性:即使标记被删除、替换或插入了额外文本,重建的图像仍能保留可识别的模式。第三,恢复图像的视觉质量可以定量衡量LLM的参与程度。清晰且定义明确的模式表明文本主要由LLM生成,而部分退化或嘈杂的图像则表明有人为编辑或修改。基于这些观察结果,本工作的目标是设计一种满足以下要求的LLM水印嵌入方法:
  1. 它应该以二值图像模式的形式嵌入概率水印。
  2. 它应确保在没有访问秘密密钥的情况下,水印无法被检测到或伪造。
  3. 它应保持生成文本的流畅性、连贯性和语义质量。
  4. 它应防止对手将有效的水印嵌入到任意文本中。
  5. 它应使通过标记级别操作移除水印变得困难。
  6. 即使在部分文本修改的情况下,它也应保持水印模式的可识别性。
  7. 它应使用户能够直观地评估给定文本的LLM生成程度。

相关工作

数字水印的概念(即在数据中嵌入隐藏信号或标识符)在多媒体处理中有着悠久的历史。经典的水印方法适用于图像、音频和视频等连续值媒体[7]、[43]、[65]。然而,文本水印由于其离散性和高度结构化的特性而带来了独特的挑战[28]。即使是微小的词汇或语法修改也会影响可读性、语法正确性或意义。

LLM生成文本的概率水印

概率水印是一种广泛研究的技术,用于在LLM生成的文本中嵌入不可察觉的信号[30]。其核心思想是在标记生成过程中引入一个小的、可控的偏差,从而使生成的文本包含一个隐藏但可统计检测到的信号,同时保持文本的流畅性、连贯性和语义质量。这种偏差由只有LLM所有者知道的秘密密钥控制,并且永远不会公开。

提出的基于模式的概率水印方法

上述概率水印方法[30]通过在标记采样过程中引入可控偏差来嵌入水印。然而,这种方法仅增加了绿色标记的出现频率,并不对它们的位置施加任何结构限制。因此,生成的水印纯粹是统计性质的,不形成可解释或人类可识别的模式。本工作的核心目标是超越这种非结构化的概率方法。

实验

对于LLM文本生成和实验评估,我们使用了OPT-1.3B、OPT-2.7B[3]和LLaMA-7B[50]大型语言模型。实现是通过PyTorch和HuggingFace Transformers库[56]完成的,该库提供了高效的逻辑操作和标记级解码机制。对于每个实验,都会向LLM提供一个初始的自然语言提示,然后系统...

结论

本文提出了一种针对LLM生成文本的概率、基于模式的水印方法。该方法通过从非结构化的统计信号转向结构化、可视化的模式,扩展了传统的概率水印方法。这种设计为水印验证提供了几个重要的优势。首先,它实现了人类可解释和可视化的验证。其次,该方法对部分文本修改具有鲁棒性:即使标记被...

资金

本研究未获得任何资金支持。

利益冲突声明

作者声明以下可能被视为潜在利益冲突的财务利益/个人关系:
沙里克·巴希尔(Shariq Bashir)报告称获得了伊玛目穆罕默德·伊本·沙特伊斯兰大学的财务支持。如果还有其他作者,他们声明没有已知的财务利益或个人关系可能影响本文报告的工作。
沙里克·巴希尔(Shariq Bashir)目前担任沙特阿拉伯利雅得伊玛目穆罕默德·伊本·沙特伊斯兰大学的机器学习和数据科学副教授。他在奥地利维也纳工业大学获得了计算机科学博士学位。他还曾在纽约大学(阿布扎比分校)担任博士后研究员。他的研究兴趣包括源代码摘要、LLM水印、LLM排名、LLM代码生成、负责任的人工智能和生成式AI。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号