SaBER-LLMs:利用大型语言模型实现安全意识行为嵌入表示,以进行细粒度恶意软件分析
《Neurocomputing》:SaBER-LLMs: Security-aware behavior embedding representation via large language models for fine-grained malware analysis
【字体:
大
中
小
】
时间:2026年03月09日
来源:Neurocomputing 6.5
编辑推荐:
赵静|云武|崔超远
中国科学院合肥物质科学研究院智能机器研究所,中国合肥,230031
摘要
越来越多的基于API调用序列的恶意软件检测方法试图结合细粒度的语义信息,即参数和返回值,但面临两个核心挑战:语义复杂性和状态爆炸。这些问题源于难以为特定领域的参数和返回值建
赵静|云武|崔超远
中国科学院合肥物质科学研究院智能机器研究所,中国合肥,230031
摘要
越来越多的基于API调用序列的恶意软件检测方法试图结合细粒度的语义信息,即参数和返回值,但面临两个核心挑战:语义复杂性和状态爆炸。这些问题源于难以为特定领域的参数和返回值建模精确的安全感知语义,以及语义状态空间的指数级增长。为了解决这些问题,我们提出了一种新的范式——SaBER-LLMs,它赋予大型语言模型三个重要角色:安全专家、敏感性评估器和双视图语义感知器,利用它们强大的语义理解和推理能力。这一范式通过三个核心组件实现:
(i)双阶段提示工程将低级行为三元组转换为简洁、人类可读且具有安全意识的描述,并赋予其可解释的风险等级;
(ii)两阶段压缩策略提取高风险行为,有效缓解状态爆炸;
(iii)双视图组合嵌入同时编码原子意图和上下文语义,以实现准确和稳健的检测。
extensive实验表明,SaBER-LLMs在检测性能、可解释性和对抗三种典型攻击(注入、替换和参数级扰动)的鲁棒性方面优于现有的最先进方法。具体而言,SaBER-LLMs在两个基线上的准确率分别达到了97.71%和96.43%,减少了下游分类器的推理时间,并在黑盒和灰盒威胁模型下保持了高防御效果,即使攻击开销非常大,这也突显了利用LLMs提升安全效能的创新范式及其在现实世界威胁场景中的实际优势。
引言
恶意软件的快速演变,尤其是未知变种,使得有效检测成为网络安全防御中的关键任务。在检测方法中,运行时行为分析特别有效,能够抵抗代码混淆和打包等逃避技术,而应用程序编程接口(API)调用序列通过捕获软件与操作系统之间的核心交互(如文件访问、注册表更改、网络活动和进程创建)提供了更精确的基础。
基于API序列的主流检测方法,无论是使用传统的机器学习(如序列模式挖掘、隐马尔可夫模型)还是深度学习模型(如循环神经网络(RNN)、长短期记忆网络(LSTM)、Transformer),通常关注API调用名称的序列,例如CreateFile、WriteFile、CloseFile。虽然这些方法在某种程度上有效,但它们存在一个致命的限制:忽略了API调用中的细粒度信息,即参数和返回值,而这些信息对于捕捉行为语义和准确评估意图至关重要:参数通过指定目标和操作来传达行为意图,例如将文件写入关键系统文件(C:\Windows\system32\config\SAM)比写入临时文件风险更高;修改自动启动注册表键比修改良性设置更可疑;返回值揭示了执行结果和上下文语义,例如CreateFile返回STATUS_SUCCESS与STATUS_ACCESS_DENIED有显著区别,FindFirstFile返回INVALID_HANDLE_VALUE可能表明探测行为,所有这些都暴露了系统状态和潜在的攻击意图。
与API名称的有限且离散的空间不同,由参数和返回值形成的状态空间是庞大、异构且半结构化的,涵盖了文件路径、URL和注册表键等无界领域,这导致了两个主要挑战:
(i)语义复杂性。这种特定领域的参数和返回值使得设计静态规则或构建语义模型极其困难,无法准确且全面地捕捉其深刻的安全感知含义;
(ii)状态爆炸。直接建模如此多样化的参数和返回值将导致语义空间呈指数级扩展,加剧数据稀疏性、模型复杂性和训练不稳定性,从而阻碍泛化。
一些尝试结合细粒度信息的现有研究通常采用几种策略:
① 统計分析:统计参数和返回值的分布(如平均值、频率或熵);
② 哈希编码:通过预定义的字典或二进制到十进制编码方案将参数和返回值映射到固定大小的向量;
③ 预训练模型嵌入:将输入参数和返回值作为普通字符串输入到预训练在自然语言语料库(如Wikipedia、BookCorpus)上的嵌入模型(如Word2Vec或BERT)以获得嵌入。
然而,①方法非常脆弱,容易受到API调用注入的影响,攻击者可以通过注入看似无害的参数和返回值的空操作API调用来逃避检测;
②方法虽然高效,但存在哈希碰撞问题,即不同的输入产生相同的哈希值,降低区分能力并妨碍安全敏感性的区分;
③方法虽然具有灵活性,但在操作系统内部和安全专业知识方面存在显著的知识差距,例如特定路径的安全敏感性或错误代码(0xc000000f对应STATUS_NO_SUCH_FILE)的精确含义,导致语义扭曲的嵌入。
我们认为,解决上述挑战需要一种智能方法,能够(i)深入理解API调用及其参数和返回值的内在安全感知语义,以及(ii)有效地将组合状态空间压缩为可行的表示形式。
新颖性
大型语言模型(LLMs)的最新进展在语言理解、知识推理和上下文感知方面展现了前所未有的能力,这极大地启发了我们的新提案:利用LLMs作为“安全领域专家”,将原始的、低级的、技术性的API调用序列(包括名称、参数和返回值)转换为高级的、人类可读的、富含安全语义的自然语言描述;然后作为“敏感性评估器”,将它们压缩为离散的敏感性等级;最后作为“内在语义”和“内在语义感知器”,形成全面的安全感知嵌入基础。
在本文中,我们提出了SaBER-LLMs,这是一种利用LLMs的安全感知行为嵌入表示方法,它利用LLMs的知识转移和上下文理解能力(如GPT-4 [2]、DeepSeek [15] [27]、Qwen[6]、LLaMA[41]、Claude-3[5]、Gemini-1.5[39]),首先将每个API调用及其参数和返回值转换为具有明确安全语义的自然语言句子,然后将其量化为敏感性等级。此外,我们基于敏感性等级提出了两阶段压缩策略,将序列的状态空间从庞大的状态压缩为更易于管理的状态,使得建模成为可能。最后,我们使用嵌入型LLMs从压缩序列生成互补的调用内和调用间的安全感知嵌入,并将组合嵌入输入两个基线分类器。
贡献总结:
一种检测范式SaBER-LLMs,利用LLMs作为“安全专家”、“敏感性评估器”和“内在与内在语义感知器”,进行语义转换、空间压缩和细粒度API序列的表示,丰富了安全感知语义,减少了组合爆炸,并实现了有效的嵌入学习。设计了三个关键模块:双阶段提示工程将API三元组转换为具有安全意识的描述和敏感性等级;两阶段压缩显著降低了状态复杂性;双视图组合嵌入同时捕获原子和上下文安全语义。我们在大规模公共数据集上进行了广泛实验,证明了SaBER-LLMs的有效性,其检测性能和对抗对抗样本的鲁棒性均显著优于现有的最先进方法(SOTA)。
动机
观察1:单个API调用可能不会显示恶意意图,但当与特定参数和返回值结合时,它可以揭示恶意行为模式。这一洞察激发了我们对API调用及其参数和返回值的深入分析,以获取软件行为的精确安全含义。以下是在恶意软件执行跟踪中观察到的一些代表性API调用,它们执行了三种类型的操作:
文件系统操作:
**系统概述**
为了实现细粒度、可解释且高效的恶意软件行为分析,我们提出了一个利用LLMs进行语义翻译、敏感性量化和行为嵌入的新框架。为清晰起见,主要符号定义如下表2所示。
给定一个API调用,通过虚拟沙箱中的监控动态提取其参数和返回值,每个调用包含零个或多个参数和一个返回值,表示为一个基本的行为三元组。
**逐步操作流程**
为了研究SaBER-LLMs的有效性,我们在第2.1节中通过输入行为片段逐步可视化输出,例如:
```python
i[GetModuleFileName, [NULL, "UuYUIQAM.exe", 0x32], "C:\Documents and Settings\All Users\pAgIwsIYUuYUIQAM.exe"]
j[NtSetValueKey, ["HKEY_LOCAL_MACHINES\SOFTWARE\Microsoft\Windows\Current Version\Run", "iwkg.exe", 0]
```
**第1步:** 通过获取当前可执行文件的完整路径,可能用于自我识别或复制目的。
我们的数据集包含20k个良性样本(来自DataSet-Stage1)和20k个恶意样本(其中10k来自Stage1,另外10k随机选自Stage2),并将其分为训练集(20k)、验证集(4k)和测试集(16k),每个集合中良性和恶意样本的数量相同。
**行为三元组的分布。** 训练和验证数据集的统计数据表明……
**相关工作**
我们从三个角度剖析了相关工作:(i)基于API调用序列的检测;(ii)细粒度序列检测;(iii)基于LLMs的序列检测。
**讨论**
SaBER-LLMs旨在提供一个自动化和智能的恶意软件检测框架。除了分类性能外,其设计选择还带来了独特的分析优势,尽管在底层LLMs的进化、过滤策略的灵活性以及交互开销等方面仍有改进空间。
**结论**
在本文中,我们提出了一种新的范式SaBER-LLMs,它赋予LLMs三个关键角色:安全专家、敏感性评估器和双视图语义感知器,有效地将低级行为三元组与高质量的安全感知嵌入联系起来。此外,我们设计了两阶段压缩来提取高风险行为,显著缓解了状态爆炸,同时增强了下游模型的收敛性和泛化能力。
**利益冲突声明**
作者声明他们没有已知的会影响力本论文工作的竞争财务利益或个人关系。
赵静是中国科学院合肥物质科学研究院智能机器研究所的博士研究生,目前正在中国科学技术大学攻读博士学位。他的当前研究兴趣包括(但不限于)网络安全、网络安全性、人工智能、深度学习、大型语言模型和大数据分析。他致力于跨学科研究。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号