引言
随着社交媒体和电子商务平台的广泛普及,利用图文共存来增强场景描述、情感表达或产品信息已成为一种常见的内容呈现方式。在这一应用场景中,当文本被用于承载秘密信息时,它不仅需要保持自然流畅,还必须与相应的图像语义在上下文上保持一致,以最小化被检测的风险。应用流程如图1所示。早期的文本隐写方法主要通过语言翻译(Rashid, Subhi, Huseein, & Mahdi (2024); Yang, Wu, Yi, Feng, & Zhang (2023))、字体颜色更改(Khosravi (2024); Thabit, Udzir, Yasin, Asmawi, & Gutub (2022))、文本压缩(Askari, Mahmood, & Iqbal (2023))或同义词替换(Li, Wei, Fu, Lin, & Zhou (2024a); Li, Mu, Zhong, Wen, & Xue (2019))等方式将信息嵌入到现有文本载体中。随着深度学习被引入隐写领域,这些方法有效地增强了信息嵌入容量和隐写文本的鲁棒性。Yang等人使用多层长短期记忆(LSTM)单元对文本信号进行编码,并在生成文本时基于词概率分布执行可逆隐写(Yang, Guo, Chen, Huang, & Zhang (2018))。Wang等人将汉字结构编码为二进制码,实现了无载体的文本隐写(Wang, Yu, & Zou (2021))。Yu等人使用词袋方法控制主题,并结合完美二叉树实现生成式文本隐写(Yu, Lu, Yan, & Yu (2022))。Peng等人设计了一个基于LSTM的抗同义词替换攻击框架(Peng, Wang, Qian, Li, & Zhang (2023))。虽然这些方法在一定程度上能够保持语义不可见性,但它们主要关注"短序列条件分布"以确保自然性,却忽视了图文共存的重要性以及LSTM在捕捉长程依赖方面的固有局限性。
对于隐写而言,传统生成文本往往缺乏现实生活中所必需的上下文信息约束,使其在多模态内容平台上显得不协调。近年来,随着大语言模型的快速演进,长序列建模和上下文一致性保持能力得到了显著提升。这一进步不仅为生成式隐写提供了新的技术路径,也对视觉语言模型的发展具有突破潜力。Yi等人使用掩码语言模型(BERT)来嵌入和提取秘密信息(Yi, Wu, Feng, & Zhang (2022))。Zheng等人利用BERT基于秘密信息和密钥双向预测候选词,实现了隐写(Zheng & Wu (2022))。Ding等人将LSTM、注意力网络和BERT相结合进行隐写(Ding, Fu, Yu, Wang, & Chen (2023))。Cao等人在语言模型中添加了一个隐写层,通过将秘密比特与匹配主题模型的候选词配对来实现信息嵌入和提取(Cao et al. (2022))。虽然这些方法能够生成相对自然的隐写文本,但在多模态通信环境中,隐写载体的自然性不仅体现在语言流畅性上,还需要具备情境适应性。
为了解决长距离依赖捕捉有限、隐写文本载体分布不当以及对真实多模态发布场景适应性差等问题,本研究提出了一种基于大语言模型的高安全性文本隐写方法,适用于图文共存场景。具体来说,首先获取图像语义描述,然后将其作为上下文先验来条件化后续隐写文本的生成。该方法不追求生成文本与视觉内容在实体层面的严格对齐,而是旨在确保生成的隐写文本在实际应用场景中显得自然且上下文恰当,从而降低引起人工审查者怀疑的可能性。使用图像语义线索的目的是模拟真实图文共存的上下文环境,而非在隐写生成框架内直接建模视觉内容。
主要贡献总结如下:
- (1)
提出了一种基于图像语义先验引导的生成式文本隐写框架,该框架从图像描述中构建语义上下文先验,在语义续写过程中引导秘密嵌入,从而提高隐写文本的自然性和一致性。
- (2)
引入了一种具有多层嵌入机制的仿射特征融合模块(AFFM),通过仿射变换将秘密信息注入多个Transformer块的隐藏状态中,实现高质量隐写文本的生成并增强了对隐写分析的抵抗能力。
- (3)
提出了一种基于加权最小二乘回归的逆推方法用于秘密信息提取,利用重建误差的倒数作为层权重以提供置信度,然后使用这些置信度来选择参与AFFM仿射融合的层进行推理,从而更有效地利用高质量层的调制信息进行秘密恢复。