TopoRRG:一种知识图谱补全模型,结合了实体拓扑特征增强与关系-关系图建模技术

《Neurocomputing》:TopoRRG: A knowledge graph completion model combining entity topological feature augmentation and relation-relation graph modeling

【字体: 大 中 小 】 时间:2026年01月01日 来源:Neurocomputing 6.5

编辑推荐:

  知识图谱补全(KGC)中,现有模型受限于实体特征不足和关系语义建模不完善,且未充分考虑图结构拓扑特征及跨关系语义关联。本文提出融合拓扑增强实体表示与关系-关系图(RRG)建模的创新方法:设计(10+)维拓扑感知实体嵌入,整合节点度、引力中心性及邻域特征;构建RRG并引入权重融合机制,通过图卷积捕捉跨关系语义;解码器采用多分支卷积与棋盘式交互策略提升实体-关系交互。实验表明,在WN18RR、FB15k-237数据集上,模型MRR较CompGCN提升1.1%-2.2%,Hits@10提升2.3%-2.4%,显著优于主流模型。

  
李向宇|白雪|杨宇
沈阳师范大学人工智能学院,中国辽宁省沈阳市110034

摘要

知识图谱补全(KGC)旨在通过推断缺失的关系来解决知识图谱的不完整性问题。然而,现有的KGC模型受到实体特征表示不足和关系语义建模有限的影响,它们往往无法考虑图结构中固有的丰富拓扑特征。此外,大多数模型也无法识别关系之间的潜在语义关联。因此,本研究提出了一种新的KGC模型,该模型将实体拓扑特征增强与关系图建模相结合。具体而言,设计了一种(10+)维的显式拓扑感知实体表示方法,通过结合节点度、引力中心性、一阶关系信息和邻居排名特征来提高表示能力。此外,在加权图卷积框架内构建了关系-关系图(RRG),并引入了一种加权融合机制,以探索原始知识图谱和提出的RRG之间的关系语义贡献。在解码阶段,采用多分支膨胀循环卷积架构,通过棋盘式重组策略和循环填充来增强实体-关系之间的交互。通过与三个基准数据集上的十五种主流模型进行比较,实验结果表明,所提出的方法不仅超越了CompGCN等现有模型,而且在所有主要评估指标上始终排名前三。特别是在WN18RR数据集上,所提出的方法在MRR上提高了1.1%,在Hits@10上提高了2.4%。在FB15k-237数据集上,这些改进分别提高了2.2%和2.3%。这些结果表明,所提出的拓扑增强实体表示和RRG建模可以显著提高链接预测的总体准确性。

引言

知识图谱(KG)是一种图结构化的知识表示方法,包含现实世界实体及其语义关系。KG将知识表示为规范化的三元组,其中有向关系将头部实体与尾部实体连接起来。自2012年谷歌首次将其引入搜索引擎以来,KG已广泛应用于各种人工智能领域,包括推荐系统[1]、[2]、[3]、问答系统[4]和信息提取[5]、[6]。然而,KG通常存在不完整的问题。因此,知识图谱补全(KGC)任务应运而生,旨在通过推理现有三元组并预测缺失的关系来增强图结构。
KGC方法通常分为三类模型:平移距离模型[7]、[8]、[9]、[10]、[11]、[12],语义匹配模型[13]、[14]、[15],以及基于神经网络的模型[16]、[17]、[18]、[19]、[20]。平移距离模型主要将实体和关系嵌入到共享或不同的连续向量空间中,使用低维向量来捕捉它们的含义。这一类别中的大多数模型基于TransE[7]引入的平移机制,并使用基于距离的评分函数来衡量三元组的可能性。然而,平移模型存在几个局限性。首先,它们的核心机制是线性平移,这使得模型难以捕捉高阶或非线性交互特征。其次,它们在处理多对多、对称或继承关系等复杂模式时的性能通常不如深度非线性模型。语义匹配模型将整个KG表示为三维(3D)张量,使用矩阵或张量分解技术来捕捉实体和关系之间的全局交互模式,并应用双线性或三线性变换来评分每个三元组。基于张量分解的KGC方法主要是二次或三次形式的,它们难以有效建模非线性交互。神经网络方法取得了更好的结果,其中卷积神经网络(CNNs)[19]、[20]和图神经网络(GNNs)[16]、[17]、[21]是领先的例子。具体来说,神经网络模型具有几个优势:(1)它们的多层架构和非线性激活函数使它们能够捕捉复杂的高阶交互模式;(2)它们可以灵活地整合异构信息,例如在统一框架内结合节点属性和图拓扑;(3)它们的模块化设计便于在需要时纳入额外的辅助信息或结构偏差。
图1展示了使用神经网络模型实现的简单KGC示例。多个三元组共同构成一个异构KG。在预测缺失的三元组(America, capital, ?)时,关系capital和头部实体America首先在特征初始化阶段转换为相应的向量表示,每个维度代表一个可能的隐含特征。在神经网络处理阶段,如果使用GNN,模型通过从其相邻实体学习特征来更新中心实体的表示;如果使用CNN,嵌入向量通常被连接成一个2D矩阵,然后通过卷积操作进行处理。因此,America和capital的向量在模型处理后的交互生成一个分数。输出分数量化了不同候选尾部实体在capital关系下与America的语义相关性。例如,Washington得分为0.98,NewYork得分为0.78,Empire State Building得分为0.32。更高的分数表明capital关系将America与候选实体连接起来的概率更大,从而能够准确预测缺失的三元组(America, capital, Washington)。
尽管现有的神经架构非常强大,但当前的基于GNN的KGC模型仍存在两个关键缺点:它们依赖于随机初始化的低维嵌入,无法明确捕捉图的丰富拓扑特征,并且通过独立处理每个关系而忽略了关系之间的潜在语义关联。为了解决这些不足,本研究提出了以下关键贡献:
  • •
    实体拓扑特征的显式建模:我们引入了一种(10+)维的显式拓扑特征集,包括节点度、邻居节点度的分布、引力中心性、一阶关系节点度,以及基于引力中心性和关系路径得分结合排名的一阶和二阶邻居选择的个邻居的节点度。
  • •
    关系-关系图(RRG)用于增强关系表示:我们通过分析关系之间的共现模式和语义相关性来构建一种新的RRG,然后应用GNN来学习增强和可解释的关系嵌入,以捕捉关系之间的交互。
  • •
    特征交互增强解码器设计:我们将InteractE[20]中的棋盘式循环交互机制与多分支膨胀卷积结构相结合,以促进高阶特征交互,并有效捕捉局部和全局关联模式。
  • 相关工作

    相关工作

    KGC旨在通过预测缺失的连接来使KG更加完整。之前的模型通常分为平移距离模型、语义匹配模型和基于神经网络的模型。每种方法在建模实体和关系的嵌入方面都有其优势和劣势。

    问题表述

    KG可以正式定义为,其中表示实体集,表示关系集,分别表示实体和关系的总数。KG包含一组事实三元组,每个三元组表示为。通常,符号用于表示头部实体的维嵌入向量,关系,以及尾部实体。
    链接预测。给定一个不完整的三元组,其中尾部实体未知,链接的目标是

    数据集

    模型性能使用三个广泛认可的基准数据集进行评估:WN18RR、FB15k-237和UMLS。WN18RR来源于WordNet[45]词汇数据库,该数据库在自然语言处理和KG研究中得到了广泛应用。为了提高泛化能力,从原始数据集中删除了逆关系,从而得到了更加独特和有意义的关系路径。FB15k-237是Freebase[46]的一个子集,通过清理原始数据有效地减少了数据冗余。

    对RRG边权的进一步探索

    原始RRG仅使用关系共现频率来构建其图。这种单一的方法经常忽略语义相关但很少共现的关系对,这最终限制了语义建模的深度。我们通过补充关系之间的结构相似性来补充权重方案,从而扩展了语义建模的深度。
    所提出的方法将共现频率与结构相似性相结合

    结论

    KGC的核心挑战在于有效建模实体和关系之间的复杂交互模式。本研究提出了一种新的模型,该模型将实体的拓扑特征增强与关系图卷积相结合,通过显式拓扑特征构建、关系语义关联建模和深度交互解码器设计显著提高了推理性能。
    首先,为了解决由于长尾实体分布导致的特征稀疏问题,

    CRediT作者贡献声明

    李向宇:写作——审阅与编辑,撰写原始草稿,可视化,验证,项目管理,方法论,调查,形式分析,数据整理,概念化。白雪:写作——审阅与编辑,监督。杨宇:写作——审阅与编辑,监督,资源获取,项目管理,资金筹集。

    资助

    本工作得到了国家统计科学研究项目(编号2025LY031)和辽宁高校基本研究基金(授权号LJ202410166011)的支持。

    利益冲突声明

    作者声明他们没有已知的竞争性财务利益或个人关系可能会影响本文报告的工作。
    李向宇是沈阳师范大学的学生,专攻图神经网络和知识图谱。他的研究重点是探索图结构中的表示学习和推理能力。他致力于推动基于图的强大且可扩展的人工智能方法的发展。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号