基于可解释人工智能的二进制软件混淆检测新方法及其在恶意代码防御中的意义

《IEEE Transactions on Emerging Topics in Computing》:Enabling Obfuscation Detection in Binary Software through eXplainable AI

【字体: 大 中 小 】 时间:2025年12月09日 来源:IEEE Transactions on Emerging Topics in Computing 5.4

编辑推荐:

  本文针对二进制混淆技术被恶意软件用于逃避签名检测的问题,研究人员开展了基于可解释人工智能(XAI)的混淆检测研究。通过静态分析提取19个特征,利用XGBoost模型和SHAP解释框架,在包含102,146个二进制文件的数据集上实现了高达99.7%的检测准确率。该研究不仅能准确识别控制流平坦化(fla)、伪控制流(bcf)和指令替换(sub)等混淆变换,还能区分单一和多重混淆,为构建混淆弹性签名提供了新思路,对提升恶意软件防御能力具有重要意义。

  
在当今数字化时代,软件已成为极具价值的资产,面临着盗版、逆向工程等多种安全威胁。代码混淆(Obfuscation)技术作为主要的软件保护手段,通过改变代码语法而保持语义不变,有效提高了逆向工程的难度。然而,这种技术同样被恶意软件作者广泛利用,通过不断变换代码形态来逃避基于签名扫描(signature scanning)的传统杀毒软件检测,形成了网络安全领域的持续攻防战。
恶意软件作者采用的控制流平坦化(Control-Flow Flattening)、伪控制流(Bogus Control Flow)和指令替换(Instruction Substitution)等混淆技术,能够显著改变代码特征,使得同一恶意代码的不同变种难以被识别。传统的静态分析方法在面对这些复杂变换时显得力不从心,特别是当恶意代码针对不同硬件架构(如x86、ARM、MIPS等)进行编译时,由于指令集的差异,检测难度进一步加大。这种现状催生了对新型检测技术的迫切需求,而可解释人工智能(eXplainable AI, XAI)技术的兴起为解决这一难题提供了新的可能。
研究人员开展了一项创新性研究,旨在通过XAI技术深入探究混淆变换对二进制程序静态特性的影响规律。该研究首先构建了一个包含102,146个二进制文件的大规模数据集,这些文件通过GCC和Clang等不同编译器、多种优化级别以及三种主要混淆变换组合生成。研究团队开发了专门的静态特征提取框架,从二进制文件中提取了包括循环复杂度(f_cyc_complex)、基本块数量(f_n_bb)、控制流指令比例(f_control_flow)等在内的19个关键特征。
在技术方法层面,研究采用了XGBoost(Extreme Gradient Boosting)分类器进行模型训练,并结合SHAP(SHapley Additive exPlanations)框架进行特征重要性分析。这种方法不仅能够实现高精度的混淆检测,还能解释模型决策依据,识别出对特定混淆变换最敏感的特征指标。特别值得关注的是,研究还探讨了多重混淆变换的检测问题,这在以往的研究中较少涉及。
研究结果显示,基于机器学习的混淆检测方法取得了显著成效。在控制流平坦化检测任务中,准确率达到了0.997,F1分数为0.986;伪控制流检测的准确率为0.986,F1分数为0.941;而在指令替换检测方面,由于目标程序中算术指令相对较少,召回率为0.393,但整体准确率仍达到0.919。这些结果表明,不同的混淆变换对检测难度的影响存在显著差异。
全局特征重要性分析揭示关键指标
通过SHAP分析,研究人员发现不同混淆变换对特征的影响具有明显特异性。对于控制流平坦化变换,循环复杂度和基本块数量等控制流相关特征表现出最高的重要性。如图3所示,当循环复杂度值较高时,程序很可能未应用平坦化变换,而低值时的判断则相对复杂。这种非线性关系体现了XAI在理解复杂特征关系方面的独特价值。
伪控制流变换主要影响函数调用图结构,其特征重要性分布如图2所示,逻辑指令比例(f_logic)和程序流指令比例(f_program_flow)成为关键判别指标。指令替换变换由于主要针对算术指令进行修改,其检测效果受到目标程序中算术操作丰富程度的显著影响。
Beeswarm图展示特征影响方向
SHAP Beeswarm图直观展示了特征值对模型输出的影响方向。图5-7分别对应三种混淆变换的特征分布情况,其中每个点代表一个样本,颜色表示特征值大小,水平位置表示SHAP值。可以发现,对于某些特征,只有当其取值处于特定范围时才对检测有显著贡献,这种细粒度的洞察为理解混淆变换机制提供了宝贵参考。
相关性分析验证特征独立性
特征相关性矩阵(图8-10)显示,所选特征之间存在较低的相关性水平,这表明各特征提供了相对独立的信息贡献,有利于模型的稳定性和可解释性。特别是在控制变换相关的实验中,相关性模式表现出明显的相似性,反映了不同混淆技术在影响程序特性方面的内在联系。
混合数据集验证泛化能力
在包含多种混淆变换的二进制混合数据集(binary mixed)上,模型仍保持了0.925的准确率和0.889的F1分数(表III)。如图11-13所示,即使在混合变换条件下,之前在单一变换中识别出的关键特征仍然保持其重要性,说明不同混淆变换的影响具有累加性而非相互干扰。
多分类任务实现精细识别
最令人印象深刻的结果来自多分类实验,模型不仅能判断是否存在混淆,还能准确识别具体的混淆类型。在多分类部分数据集(multi partial)上,准确率达到0.916,F1分数为0.903;即使在包含三重混淆的多分类全数据集(multi all)上,性能指标仍保持在相似水平(图14-15)。这表明该方法具有极强的实用价值,能够满足现实场景中复杂混淆模式的检测需求。
本研究通过系统性的实验证明,基于可解释人工智能的静态分析方法能够有效检测二进制程序中的混淆变换,且不受架构差异的影响。这一发现对网络安全领域具有深远意义:首先,该方法为构建混淆弹性的恶意软件签名提供了理论基础,通过识别那些在混淆变换中保持稳定的特征,可以开发出更加鲁棒的检测方案;其次,对混淆类型的精细识别能力为逆向工程和去混淆操作提供了重要线索,有助于安全研究人员快速理解恶意代码的防护机制;最后,跨架构的检测能力使其特别适用于物联网(IoT)安全领域,其中多样化的硬件平台一直是安全防护的难点。
该研究的创新性不仅体现在技术方法上,还体现在其大规模、多架构的数据集构建以及首次对多重混淆变换的系统性探索。相比以往研究,本文首次将XAI技术深入应用于混淆检测的可解释性分析,为理解混淆变换的作用机制提供了全新视角。未来工作的方向包括扩展更多类型的混淆变换、探索动态分析特征的补充价值,以及将研究成果转化为实用的安全检测工具,为构建更加安全的数字环境提供技术支持。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号