图级融合下的多视图表示学习:一种双层优化视角

《Big Data and Cognitive Computing》:Learning Multi-View Representations with Graph-Level Fusion: A Bi-Level Optimization Perspective

【字体: 大 中 小 】 时间:2026年08月28日 来源:Big Data and Cognitive Computing 5.3

编辑推荐:

  多视图表示学习旨在从异构数据源中提取判别性模式,近年来受到越来越多的关注。多视图数据融合的一个核心挑战在于以有原则的方式确定每个视图的适当权重和重要性。虽然基于图的方法已被证明对多视图学习有效,但以优化为中心的一致性图融合方法的系统性发展仍处于起步阶段。此外,

  
多视图表示学习旨在从异构数据源中提取判别性模式,近年来受到越来越多的关注。多视图数据融合的一个核心挑战在于以有原则的方式确定每个视图的适当权重和重要性。虽然基于图的方法已被证明对多视图学习有效,但以优化为中心的一致性图融合方法的系统性发展仍处于起步阶段。此外,潜在特征表示空间与图空间之间缺乏显式对齐的问题常常被忽视,最终损害了共享表示的一致性。为此,研究人员提出了一种用于联合多视图特征表示学习与图融合的双层框架(bi-level framework),该框架将多视图数据融合任务正式表述为一个严格的数学优化问题。所提出的方法在聚类任务中展现出持续的有效性,在六个基准数据集上取得了最先进的性能,与现有方法相比准确率提升幅度最高可达一定百分比。
多视图表示学习旨在从异构数据源中提取判别性模式,近年来受到广泛关注。现有的多视图图学习方法主要分为预定义图融合、可学习图优化与基于子空间的学习范式三大类,其核心目标是发现捕捉跨视图共享潜在结构的一致图。当前研究忽视的一个关键问题在于图拓扑一致性与特征空间不变性的耦合学习:尽管图卷积网络(GCN)擅长联合整合结构与特征信息,但若不能妥善解决这一耦合问题,将限制跨视图表示的完整性与判别性。传统的单层联合优化方法通常因变量间相互干扰而陷入平凡解或产生次优图结构。为此,研究人员提出了一种双层优化框架,显式建模图拓扑与特征不变性之间的层级依赖关系:下层优化任务细化视图特定图拓扑结构,严格作为上层任务的优化结构约束;上层任务在该最优局部拓扑约束下确定全局融合策略与特征表示。这一数学上严谨的领导者–追随者架构防止了图学习与特征学习相互妥协,共同确保获得完整且任务有效的聚类表示,为多视图图表示学习建立了新范式。该论文发表在《Big Data and Cognitive Computing》。

研究人员构建了双层优化框架。下层优化采用拉格朗日乘子法解析更新视图权重,并利用两阶段投影梯度下降法细化共识亲和矩阵;上层优化将表示更新转化为Sylvester方程,采用Bartels–Stewart算法求闭式解,并以闭式解更新共享映射矩阵。理论分析表明交替优化序列可收敛至驻点。实验在Animals、BDGP、COIL20、Hdigit、WebKB、Wikipedia六个基准数据集上开展,与优化驱动图方法、可扩展锚图方法、深度神经网络方法三类共八种基线进行比较。初始亲和矩阵由k近邻(k-NN)图结合高斯核构建,表示由主成分分析(PCA)初始化。

**不同规模数据集上的主导聚类性能**:在六个数据集上以准确率(ACC)、归一化互信息(NMI)、调整兰德指数(ARI)和F1-Score四项指标评估,所有实验遵循无监督范式,真实标签仅用于事后评估,并固定全局随机种子、以10次K-means平均值报告结果,配对样本t检验证实性能提升具有统计显著性。在小规模数据集上,该方法在WebKB、COIL20、Wikipedia上均超越次优方法取得最高准确率;在大规模数据集上,该方法在Animals上超越所有基线,在Hdigit上取得第二优性能,平均准确率提升持续超越现有基线,展现了框架在不同规模数据上的可扩展性与适应性。

**收敛性分析**:通过训练损失、准确率与F1-Score的演化曲线评估框架稳定性。BDGP上损失快速下降,约700轮后稳定;Hdigit约20轮出现损失尖峰后逐渐收敛;Wikipedia在1500轮内快速收敛;WebKB与COIL20约3000轮稳定;Animals因规模较大约3000轮收敛。Wikipedia与Animals上准确率与F1-Score的差异主要反映类别不平衡而非训练不稳定。内层循环采用严格数值停止准则,结合基于聚类指标稳定的早停策略,可在平均约1500轮内获得最优聚类性能,兼顾计算效率。

**消融分析**:对比完整模型与两个退化变体。冻结多视图表示仅执行下层图优化的w/o upper变体在Animals与COIL20上准确率严重下降,原因在于初始表示信息量不足,误导下层图更新产生损坏的图结构;冻结初始融合图仅执行上层表示优化的w/o lower变体性能亦低于完整模型,原因在于初始融合图保留原始数据中的噪声与拓扑不一致性,限制了最终表示的判别能力。完整模型通过交替更新表示与共识图取得最佳性能,验证了双层公式中两个层级相互促进的机制。

**参数敏感性分析**:模型对超参数α的敏感性较低,各数据集上性能稳定;β在不同数据集上呈现差异性模式,在BDGP与WebKB上当β大于1时准确率明显下降,在Animals与COIL20上仅当β达到100时才出现波动。设置α为较小值、β为1可在多数数据集上取得稳定且优越的性能,为实际应用中的参数配置提供了明确指导。

**计算复杂度与运行时间分析**:整体时间复杂度由求解Sylvester方程的图规模运算主导,高维特征维度D严格线性地贡献于计算开销;空间复杂度由存储原始多视图数据矩阵与共识图决定。尽管运行时间高于轻量级基线,但实际运行时间对离线聚类任务可接受,且准确率收益显著,该计算权衡是合理的。

**讨论与结论**:讨论部分指出,该研究通过双层优化原理性地实现了图拓扑一致性与特征空间不变性的
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号