GNN-EGG:通过图生成来解释图神经网络的工作原理

《Neurocomputing》:GNN-EGG: Graph neural network explanations via graph generation

【字体: 大 中 小 】 时间:2026年03月21日 来源:Neurocomputing 6.5

编辑推荐:

  本文提出基于图生成网络的可解释性方法GNN-EGG,通过图编辑距离的可微分近似约束生成图的结构合理性,在MUTAG和病理学数据集上验证其有效性,解决传统解释方法生成的非结构化图问题。

  
Art Taychameekiatchai|李伟嘉|池志凯|徐月双|周勤|肖光华|詹晓伟
德克萨斯大学西南医学中心健康数据科学与生物统计学系定量生物医学研究中心,美国德克萨斯州达拉斯市Harry Hines Blvd 5323号,邮编75390

摘要

图神经网络(GNNs)为建模具有图形性质的数据(如交通网络、社交网络和分子网络)提供了一种方法,同时也能增强和简化非结构化数据(包括文本和图像)的处理。然而,它们的预测结果往往不透明,就像一个“黑盒子”,这阻碍了其更广泛的应用和进一步改进。在本文中,我们提出了一种与架构无关的新算法——GNN-EGG(通过图生成进行图神经网络解释),用于GNN分类器。作为一种模型级别的事后解释方法,GNN-EGG可以学习每个图类别的数据生成分布。这项工作的主要贡献在于在损失函数中使用了图编辑距离(GED)的可微分近似。这一机制确保了我们的代表性样本在图空间和嵌入空间中的一致性,同时也解决了先前研究中提到的完全随机图仍可能产生相似嵌入和强烈预测结果的问题。我们使用突变分子数据集(MUTAG)对算法进行了基准测试,并将其应用于数字病理学中的恶性肿瘤检测任务。该方法的官方实现可以在这个GitHub仓库中找到。

引言

图为建模复杂数据提供了极其灵活的结构。数据可以自然地以图的形式出现,例如分子[35]。我们还可以将数据转换为图,比如图像的关键点[43]。甚至可以利用图来添加结构,例如语法关系[41]。图神经网络(GNNs)已成为图数据预测和推理的流行选择。其核心原理是基于相邻节点的信息迭代更新节点嵌入。这种信息传递方式使GNN能够捕捉图结构中的复杂依赖关系和模式。GNN架构通常由多层组成,每一层都执行信息传递和聚合操作以优化嵌入[17]。这些层之后通常会接有池化和密集预测层以生成最终输出。图分类的一些重要应用包括预测化学毒性[2]、对蛋白质进行分类[12],甚至从病理切片中检测癌症[36]。尽管GNNs具有显著的预测能力,但其复杂性阻碍了科学原理的提取。与许多深度学习模型一样,GNNs的“黑盒子”特性限制了其广泛应用[9]。如果没有强大的解释方法,GNNs更容易受到对抗性攻击[31]和未被发现的歧视[1]。解释方法还可以通过突出在其他应用中可能有预测价值的共同结构或特征来指导建模工作[40]。
一般来说,解释方法旨在阐明数据中哪些特征影响了不同的预测结果。这些方法通常分为两类:实例级别和模型级别。实例级别解释旨在揭示模型对特定预测的推理过程。在图像和文本分析等领域,一种常见的方法是对实例进行掩码处理或扰动,然后评估这对模型预测的影响[47]。另一方面,模型级别解释旨在理解模型如何区分不同类别。例如,在图像和文本分析中,一种常见技术是将输入视为可训练参数,并优化模型对特定类别的预测[47]。因此,优化后的输入包含了一组与目标类别高度相关的特征。然而,图的离散特性给这些方法带来了挑战,因为缺乏基于梯度的优化[47]。
一种常见的解决方法是在连续预测或嵌入级别进行优化,但这可能导致不现实或不可行的图结构。在图层面,无意义的特征和结构常常会出现在决策边界或嵌入空间的期望一侧。Wang和Shen[37]发现,完全随机的图在4个数据集上产生了显著偏斜的预测结果。此外,参考文献[30]指出,即使在分类准确的情况下,基于潜在嵌入向量计算出的相似性也可能与真实簇大相径庭。图1提供了一个视觉示例。生成分布可以放置在图空间中,使得所有生成的样本都能被GNN映射到目标类别,但仍然可能是不现实的。此外,与直观的文本或图像不同,经过掩码处理或优化的图在没有领域特定知识的情况下可能缺乏直接的可解释性。
在本文中,我们提出了一种新的算法,为基于GNN的图分类器提供与架构无关的模型级别解释。我们的算法旨在学习GNN被解释者模型预测的每个图类别的潜在数据分布。虽然之前也有类似的研究,但我们引入了一种新的损失函数,该函数结合了图编辑距离(GED)的可微分近似。GED是一种直接在图空间中计算的相似性度量,解决了确保图空间和嵌入空间一致性的问题。此外,GED有助于节点匹配,从而将生成的结构映射回观察到的结构,增强了直观性。具体来说:
  • 1.
    利用突变分子数据集(MUTAG)[8],我们旨在证明将GED纳入损失函数可以提高模型级别解释的预测准确性和结构保真度。
  • 2.
    将该方法应用于更复杂的癌症病理切片数据集,展示了我们的算法对更复杂图和更复杂GNN架构的适用性。
  • 部分摘录

    实例级别解释方法

    实例级别解释方法提供了对单个预测的洞察。最直接的方法是使用特征梯度,通过计算预测结果相对于实例特征的变化来衡量特征的重要性。虽然将图的特征矩阵视为连续值可以应用诸如敏感性分析(SA)[3]、引导反向传播(Guided Backpropagation)[3]、类激活映射(CAM)[24]等方法

    图生成模型

    设为一个图,其中为节点特征矩阵,为边特征矩阵,为邻接矩阵。假设有个节点和条边。我们将和划分为和,其中表示连续特征,表示独热离散特征。的维度定义为,其中可以是或。边矩阵的维度也以相同方式定义。另外注意,是一个二进制矩阵,表示从节点到节点存在有向边。可以被采样

    图级别相似性度量

    虽然方程(4)计算的相似性度量直接且可微分,但其几何形状完全由被解释者模型的训练目标决定,并不直接编码图之间的结构差异。如前所述,GNN嵌入并不比1-WL图同构测试更具表达能力,这意味着基于嵌入相似性进行优化在无法通过此类测试区分的图空间中的任何地方都会表现不佳。这激发了

    MUTAG

    为了评估GNN-EGG的性能,我们选择了MUTAG数据集,该数据集包含硝基芳香族化合物,目标是预测它们对沙门氏菌(Salmonella typhimurium)的致突变性[8]。每个观测值代表一个化学结构,其中顶点表示原子,边表示键。MUTAG是一个标准的基准图数据集,已被XGNN和GNNInterpreter使用。每个GNN-EGG模型都使用RMSprop优化器进行训练,学习率设置为默认值0.01

    MUTAG

    表1表明,GNN-EGG的预测性能与当前最先进的方法XGNN和GNNInterpreter相当。消融测试(No-GED模型)证实,省略GED项会导致生成的图需要大量编辑才能与观察到的分子匹配,因为模型倾向于生成过多的重复性节点(如碘),从而产生不现实的示例。优化GED可以惩罚这些不合理的结构,从而提供更好的结果

    结论

    通过图生成进行图神经网络解释(GNN-EGG)是一种与架构无关的、事后的图神经网络解释方法。GNN-EGG通过优化图生成分布来产生被解释者GNN模型分类为属于目标类别的样本。虽然这个框架并非完全新颖,但我们证明了将图编辑距离(GED)纳入损失函数可以提高生成示例的保真度

    CRediT作者贡献声明

    Art Taychameekiatchai:撰写——原始草稿、可视化、验证、软件、方法论、概念化。李伟嘉:验证、数据整理。肖光华:撰写——审阅与编辑、验证、监督、方法论、资金获取、数据整理。詹晓伟:撰写——审阅与编辑、验证、监督、软件、方法论。

    利益冲突声明

    作者声明以下可能被视为潜在利益冲突的财务利益/个人关系:
    詹晓伟报告称获得了美国国立卫生研究院的财务支持。肖光华报告称获得了美国国立卫生研究院的财务支持。肖光华还报告获得了德克萨斯州癌症预防与研究所的财务支持。如果还有其他作者,他们声明没有已知的财务利益冲突

    致谢

    此处展示的结果全部或部分基于TCGA研究网络生成的数据:https://www.cancer.gov/tcga
    Art是南方卫理公会大学统计与数据科学系的博士候选人。他的研究将深度学习和统计模型应用于病理学的数据丰富领域,如微生物基因序列和医学成像,旨在开发辅助临床诊断的预测工具。他拥有南方卫理公会大学的统计学学士学位和金融学士学位。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号