UniProv:一个统一的预训练框架,用于 provenance 图表示学习

《Neurocomputing》:UniProv: A unified pretraining framework for provenance graph representation learning

【字体: 大 中 小 】 时间:2026年03月18日 来源:Neurocomputing 6.5

编辑推荐:

  提出UniProv统一预训练框架,通过多任务自监督学习、因果保留图增强和贝叶斯不确定性优化,有效提升证明图在入侵检测等下游任务的泛化能力,实验表明其F1分数平均提升4.43%和3.54%。

  
Xuebo Qiu|明琦 Lv|张一梅|宋启杰|朱天添|陈铁明
浙江工业大学计算机科学与技术学院,杭州,310023,中国

摘要

数据来源将审计日志转换为来源图,这些图编码了系统实体之间的复杂依赖关系,为因果推理和入侵调查提供了分析基础。最近在自监督表示学习方面的进展使得能够在特定下游任务中对来源图中的行为语义进行建模。然而,这样的专门模型在处理异构来源问题时泛化能力较差,并且需要耗费大量资源进行重新训练以适应新场景。
为了弥合这一差距,我们提出了UniProv,这是一个开创性的统一预训练框架,能够学习出可在多种下游任务中迁移的通用来源图表示。首先,UniProv结合了一系列自监督学习任务,从来源图的拓扑结构和属性中提取多方面的互补语义信息。其次,我们提出了一种保留因果关系的来源图增强算法,通过启发式扰动生成增强后的图视图来提高学习效果。第三,引入了贝叶斯不确定性来动态调整多目标学习的优先级,从而将共享的行为语义提炼成通用表示。在六个数据集上的三项来源任务上的广泛实验验证了UniProv的泛化能力和有效性。值得注意的是,其在图级和节点级入侵检测方面的F1分数平均分别比现有最佳模型高出4.43%和3.54%。此外,UniProv具有较低的训练开销和高可扩展性,随着训练数据量的增加,性能稳步提升。我们的代码可在以下链接获取:https://github.com/xueboQiu/UniProv

引言

系统审计日志通常被建模为来源图,以捕捉历史活动背后的因果链[1],这为安全分析(如入侵检测[2]和攻击取证[3])奠定了关键基础。图神经网络(GNNs)最近被用于这一领域[4]。通过在来源图中传播和聚合系统实体之间的因果交互,GNNs将隐含的行为语义编码为表达力强的表示,适用于下游安全任务。
为了减少人工注释的需求,自监督学习(SSL)被广泛用于预训练GNNs,其中未标记的数据属性被用作监督信号来学习语义表示。以往的研究通常制定 pretext任务,每次仅训练模型以捕捉与一个下游任务相关的行为语义[2]、[5]、[6]、[7]、[8]、[9]、[10]、[11]、[12]。例如,MAGIC[9]采用掩码图自动编码器框架通过特征重构监督来学习系统节点表示,旨在实现节点级入侵检测。MEGR-APT[10]则通过基于图编辑距离的监督来优化模型,以学习用于攻击模式匹配的全局行为语义。尽管有这些努力,我们认为,这种为个别任务优化的狭隘预训练范式仍不足以生成适用于多种任务的通用表示。具体来说,来源图在严格的因果和结构约束下封装了多样的行为语义,包括异构实体角色(如进程、文件和套接字)、调节因果传播的方向信息流,以及编码行为上下文的局部子图。单一目标优化导致两个关键问题:(1)学习到的行为表示本质上偏向于有限的语义子空间(详见第2.2节的理论分析),降低了跨任务迁移能力[13]、[14];(2)模型必须为每个下游任务进行专门化和重新训练,导致多余的训练开销。
为了具体说明这一点,我们在多个数据集上对MAGIC和MEGR-APT进行了跨任务验证,涉及节点异常检测和图模式匹配任务。如图1所示,它们的性能存在显著差异:MAGIC在节点异常检测方面表现优异,但在图模式匹配方面表现不佳;而MEGR-APT在图模式匹配方面表现良好,但在检测异常节点方面表现较差。这些结果表明狭隘的预训练范式产生了有偏见且泛化能力有限的来源图表示。
这些观察结果促使我们转向一种能够学习通用表示的统一预训练范式。从经验上看,这种方法对来源分析有两个主要影响:(1)它产生了高度可迁移的表示,能够在任务和数据集之间进行迁移,同时促进特征和计算的共享——这对于资源受限的平台至关重要;(2)它通过在新场景中仅需要轻量级的微调来提高可扩展性。尽管这一愿景很有前景,但由于来源图的独特结构和语义特性,有效的预训练仍然具有挑战性。具体来说,来源图中的行为语义是多方面的,涵盖了局部因果交互、特定角色的实体行为和全局执行模式。要在单一表示中捕捉这些异构语义,需要超越孤立的 pretext目标。此外,来源图施加了严格的因果和时间约束,在这些约束下,常用的随机增强方法和朴素的多目标优化策略可能会产生语义无效的监督或导致学习动态不平衡[15]、[16]、[17]。
基于这些原则,我们提出了UniProv,这是一个针对来源图固有约束定制的统一预训练框架。具体而言,UniProv整合了一系列互补的 pretext任务,共同捕捉多尺度语义,扩大了跨任务迁移的归纳偏差。为了保持语义有效性,我们用保留因果关系的增强策略替换了随机图扰动,确保生成的对比视图在行为上是合理的。为了解决由此产生的优化不平衡,我们进一步结合了贝叶斯不确定性[18],能够动态平衡跨尺度目标,实现向全局最优表示空间的稳定收敛。在Streamspot[19]、Unicorn[20]和Darpa[21]、[22]的6个基准数据集上的综合实验中,针对3项关键的基于来源的下游任务(即图级和节点级入侵检测以及通过图模式匹配的威胁狩猎),验证了UniProv的泛化能力。具体来说,它在不需要进一步微调的情况下,分别在图级和节点异常检测方面平均提高了4.43%和3.54%的F1分数,并在多个数据集上的图模式匹配任务中表现出顶级性能(详见图1和第4.5节)。此外,其性能随训练数据量的增加而提升,高效的设计确保了低训练成本,凸显了其在处理大规模来源数据方面的潜力。
总结来说,我们的贡献如下:
  • 我们提出了一个统一的预训练框架,学习通用的来源图表示,为多样化的基于来源的安全应用奠定了基础。
  • 我们设计了一系列协同的 pretext任务和保留因果关系的图增强机制,从来源图中捕捉全面的行为语义。
  • 我们引入了一种基于贝叶斯不确定性的优化策略,以平衡多任务预训练,实现在大规模来源数据上的稳定高效学习。
  • 我们证明了UniProv在6个知名数据集上的3项经典来源任务中优于10个最佳模型,同时在实际来源分析中提供了更好的可扩展性和适应性。
  • 部分摘录

    定义

    来源图。来源图,表示为=(,),捕获了系统执行的时间和因果演变。这里,代表系统实体(例如进程、文件或套接字)的节点集,而代表编码系统实体之间因果交互(例如读取或写入)的有向边。来源图通过提供系统活动的整体视图,支持细粒度的安全分析。
    因果关系保持。给定一个来源图,其中

    概述

    我们介绍了UniProv,一个用于来源图表示学习的统一预训练框架,如图3所示。该框架从生成监督信号开始,我们设计了一系列学习策略,即采样、掩码和扰动,从不同拓扑和语义角度提取来源图的多样化监督信号。基于这些信号,UniProv采用了三种类型的 pretext任务:生成学习、对比学习

    评估

    本节评估了UniProv在多种数据集和下游任务上的泛化性能和计算开销。具体来说,第4.1节描述了数据集、训练和评估协议以及实现细节。第4.2节研究了模型参数和训练数据大小的泛化能力。第4.4节通过消融研究分析了各组件的贡献,第4.3节评估了跨任务性能,并将UniProv与其他方法进行了比较

    讨论与局限性

    训练数据。UniProv利用普遍存在的系统审计日志进行预训练,无需手动注释。这样的设计能够有效地建模多样化的行为模式,并提高来源图表示在各种下游任务中的准确性。如第4.2节所示,更大、更多样化的数据集的可用性可以提高UniProv的泛化能力。然而,噪声数据也可能对学习产生负面影响。

    相关工作

    基于来源的入侵检测。早期基于来源的入侵检测工作可以分为图级、路径级和节点级检测。图级检测[23]、[67]通过分析全局结构特征(例如连通性、中心性)来识别偏离良性行为模式的系统范围异常。路径级方法[3]、[75]分析来源图中的特定因果序列或工作流,利用基于规则的或概率模型

    结论

    本文提出了UniProv,一个创新的统一预训练框架,用于通用来源图表示学习。通过利用互补的 pretext任务,UniProv从多种角度提取了全面的行为语义。为了优化学习过程,UniProv结合了针对来源图特性的图增强算法,并采用基于贝叶斯不确定性的策略来动态平衡多目标贡献。

    CRediT作者贡献声明

    Xuebo Qiu:撰写——审阅与编辑、撰写——原始草稿、验证、方法论。Mingqi Lv:监督、资源管理、项目管理。Yimei Zhang:可视化、验证。Qijie Song:方法论。Tiantian Zhu:调查。Tieming Chen:资金获取。

    利益冲突声明

    作者声明他们没有已知的财务利益或个人关系可能影响本文报告的工作。

    致谢

    本工作部分得到了中国国家自然科学基金(项目编号62372410、U22B2028)、浙江省自然科学基金(项目编号LZ23F020011)和浙江省领军人才计划(项目编号2025C01013)的支持。
    Xuebo Qiu于2021年在中国温州大学获得计算机科学与技术学士学位。他目前在中国浙江工业大学攻读计算机科学与技术博士学位。他的研究兴趣包括系统安全和数据挖掘。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号