基于大语言模型与仿射特征融合的图像语义引导文本隐写术

《Expert Systems with Applications》:Image-Semantic Guided Text Steganography Based on LLMs and Affine Feature Fusion

【字体: 大 中 小 】 时间:2026年10月21日 来源:Expert Systems with Applications 9.4

编辑推荐:

   •提出了一种基于图像语义引导的文本隐写框架。•构建了仿射特征融合模块以提升隐蔽性和自然性。•提出了基于加权最小二乘回归的安全秘密提取方法。•在保持隐蔽性的同时,实现了对隐写分析的强抵抗能力。引言随着社交媒体和电子商务平台的广泛普及,利用图文共存来增强场景描述、情感表达或产品信

  
  • •
    提出了一种基于图像语义引导的文本隐写框架。
  • •
    构建了仿射特征融合模块以提升隐蔽性和自然性。
  • •
    提出了基于加权最小二乘回归的安全秘密提取方法。
  • •
    在保持隐蔽性的同时,实现了对隐写分析的强抵抗能力。

引言

随着社交媒体和电子商务平台的广泛普及,利用图文共存来增强场景描述、情感表达或产品信息已成为一种常见的内容呈现方式。在这一应用场景中,当文本被用于承载秘密信息时,它不仅需要保持自然流畅,还必须与相应的图像语义在上下文上保持一致,以最小化被检测的风险。应用流程如图1所示。早期的文本隐写方法主要通过语言翻译(Rashid, Subhi, Huseein, & Mahdi (2024); Yang, Wu, Yi, Feng, & Zhang (2023))、字体颜色更改(Khosravi (2024); Thabit, Udzir, Yasin, Asmawi, & Gutub (2022))、文本压缩(Askari, Mahmood, & Iqbal (2023))或同义词替换(Li, Wei, Fu, Lin, & Zhou (2024a); Li, Mu, Zhong, Wen, & Xue (2019))等方式将信息嵌入到现有文本载体中。随着深度学习被引入隐写领域,这些方法有效地增强了信息嵌入容量和隐写文本的鲁棒性。Yang等人使用多层长短期记忆(LSTM)单元对文本信号进行编码,并在生成文本时基于词概率分布执行可逆隐写(Yang, Guo, Chen, Huang, & Zhang (2018))。Wang等人将汉字结构编码为二进制码,实现了无载体的文本隐写(Wang, Yu, & Zou (2021))。Yu等人使用词袋方法控制主题,并结合完美二叉树实现生成式文本隐写(Yu, Lu, Yan, & Yu (2022))。Peng等人设计了一个基于LSTM的抗同义词替换攻击框架(Peng, Wang, Qian, Li, & Zhang (2023))。虽然这些方法在一定程度上能够保持语义不可见性,但它们主要关注"短序列条件分布"以确保自然性,却忽视了图文共存的重要性以及LSTM在捕捉长程依赖方面的固有局限性。
对于隐写而言,传统生成文本往往缺乏现实生活中所必需的上下文信息约束,使其在多模态内容平台上显得不协调。近年来,随着大语言模型的快速演进,长序列建模和上下文一致性保持能力得到了显著提升。这一进步不仅为生成式隐写提供了新的技术路径,也对视觉语言模型的发展具有突破潜力。Yi等人使用掩码语言模型(BERT)来嵌入和提取秘密信息(Yi, Wu, Feng, & Zhang (2022))。Zheng等人利用BERT基于秘密信息和密钥双向预测候选词,实现了隐写(Zheng & Wu (2022))。Ding等人将LSTM、注意力网络和BERT相结合进行隐写(Ding, Fu, Yu, Wang, & Chen (2023))。Cao等人在语言模型中添加了一个隐写层,通过将秘密比特与匹配主题模型的候选词配对来实现信息嵌入和提取(Cao et al. (2022))。虽然这些方法能够生成相对自然的隐写文本,但在多模态通信环境中,隐写载体的自然性不仅体现在语言流畅性上,还需要具备情境适应性。
为了解决长距离依赖捕捉有限、隐写文本载体分布不当以及对真实多模态发布场景适应性差等问题,本研究提出了一种基于大语言模型的高安全性文本隐写方法,适用于图文共存场景。具体来说,首先获取图像语义描述,然后将其作为上下文先验来条件化后续隐写文本的生成。该方法不追求生成文本与视觉内容在实体层面的严格对齐,而是旨在确保生成的隐写文本在实际应用场景中显得自然且上下文恰当,从而降低引起人工审查者怀疑的可能性。使用图像语义线索的目的是模拟真实图文共存的上下文环境,而非在隐写生成框架内直接建模视觉内容。
主要贡献总结如下:
  • (1)
    提出了一种基于图像语义先验引导的生成式文本隐写框架,该框架从图像描述中构建语义上下文先验,在语义续写过程中引导秘密嵌入,从而提高隐写文本的自然性和一致性。
  • (2)
    引入了一种具有多层嵌入机制的仿射特征融合模块(AFFM),通过仿射变换将秘密信息注入多个Transformer块的隐藏状态中,实现高质量隐写文本的生成并增强了对隐写分析的抵抗能力。
  • (3)
    提出了一种基于加权最小二乘回归的逆推方法用于秘密信息提取,利用重建误差的倒数作为层权重以提供置信度,然后使用这些置信度来选择参与AFFM仿射融合的层进行推理,从而更有效地利用高质量层的调制信息进行秘密恢复。

各章节摘要

相关工作

受图像标题生成中图像语义与文本表达协同建模的启发,现有研究(Hossain, Aktar, Gu, Liu, & Huang (2025); Yang et al. (2024))已表明视觉内容可以通过自然语言进行语义表示,为图文信息映射提供了有效的基础。同时,基于大语言模型的生成式文本隐写已展现出在文本自然性、信息嵌入和隐蔽性方面的强大性能。

所提方法

本文提出了一种知识引导的多层表示操作以实现高隐蔽性生成式文本隐写,该方法由两个主要阶段组成:预训练和隐写文本生成。在预训练阶段,秘密编码器和解码器被冻结,重点在于优化语言模型的损失。在隐写生成阶段,使用细粒度的图像语义描述作为先验线索,秘密信息被嵌入到生成过程中。

实验

本节对所提出的隐写框架在图文共存场景下以及以公开文本数据集作为先验线索的情况进行了系统性评估,重点关注实验设置、评估指标和结果分析。

消融实验

为评估所提出的AFFM-WLS机制中各组件的有效性,我们在嵌入容量从1.0到2.0 bpw的范围内进行了消融实验。由于AFFM在结构上与基于WLS的逆推紧密耦合,直接用简单的基于拼接的融合模块替换AFFM将破坏WLS所需的逆关系并使提取不兼容。因此,我们通过逐步减少原始嵌入层的数量来评估AFFM。

实际应用意义与局限性

所提方法适用于公共图文发布场景中的隐蔽信息传输。发送者可以在社交媒体平台、图文博客、新闻评论区或多模态内容分享平台上发布图片及其对应的生成文本。对于普通观察者而言,发布的内容呈现为语义上自然的图文信息,其中文本与图像内容相关,不易暴露隐蔽通信的意图。

结论

为了解决传统文本隐写与现实图文发布场景之间的分布不匹配问题,本工作引入了一个基于图像语义先验引导的生成式文本隐写框架,其中图像语义描述被用于构建后续隐写文本生成的上下文先验。通过集成多层表示操作与仿射特征融合,所提方法在有效嵌入信息的同时保持了。

CRediT作者贡献声明

冯婷婷:本研究的概念化、方法论、软件、初稿撰写。谭芸:可视化、软件、方法论。吴维昭:审阅与编辑、调查。秦家华:审阅与编辑、验证。项旭宇:审阅与编辑、验证。

利益冲突声明

作者声明不存在已知的 competing financial interests 或个人关系可能影响本文所报告的工作。
冯婷婷|谭芸|吴维昭|秦家华|项旭宇
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号