面向潜在多视图子空间聚类的张量化特异性与一致性
《Pattern Recognition》:Tensorized specificity and consistency for latent multi-view subspace clustering
【字体:
大
中
小
】
时间:2026年09月26日
来源:Pattern Recognition 9.1
编辑推荐:
•本文提出了一种新颖的多视角子空间聚类方法,称为TSCL-MVSC。
•TSCL-MVSC联合学习潜在表示的特异性与一致性。
•TSCL-MVSC将特异性表示与一致性表示整合为张量。
•TSCL-MVSC采用张量对数行列式正则化来约束该张量。
•实验表明,TSCL-MVSC在
•本文提出了一种新颖的多视角子空间聚类方法,称为TSCL-MVSC。
•TSCL-MVSC联合学习潜在表示的特异性与一致性。
•TSCL-MVSC将特异性表示与一致性表示整合为张量。
•TSCL-MVSC采用张量对数行列式正则化来约束该张量。
•实验表明,TSCL-MVSC在多视角聚类中是有效的。
引言
在现实场景中,多视角数据随处可见,来自不同的视角或不同的领域。例如,一幅图像可以用其纹理、强度和边缘特征来表征,每一种特征代表一个特定的视角。多视角聚类利用特征相似性以及不同视角之间的互补信息,将数据划分到不同的簇中。它已被广泛应用于各种任务,并取得了令人满意的结果,例如时间序列学习[1]、人脸聚类[2]和图像分割[3]。
多视角子空间聚类(MVSC)是多视角聚类的一个关键分支,它利用每一个视角固有的低维子空间结构,从而更有效地捕捉复杂的几何关系并降低噪声。现有的MVSC方法根据子空间建模方式的不同,通常分为稀疏子空间聚类和低秩子空间聚类两类[4]。前者构建稀疏表示矩阵,用以表示样本之间的局部相似性;后者学习低秩表示矩阵,用以捕捉全局结构。随后,从表示矩阵构建亲和矩阵,并对该矩阵应用谱聚类[5]以获得最终的聚类结果。
尽管MVSC已取得良好的聚类效果,但由于表示矩阵直接由原始特征矩阵学习得到,其有效性通常受到原始特征质量的限制。现实中的多视角数据集往往包含噪声、异常值以及无关信息。为解决这一问题,Zhang等人[6]提出了一种潜在MVSC模型,利用潜在表示来探索样本间的关系并处理可能存在的干扰信息。具体而言,该模型从多视角数据中学习一个共享的潜在表示矩阵,然后再从潜在表示中导出自表示矩阵。受此启发,各种变体被提出以进一步增强聚类性能[7]、[8]。
尽管取得了令人满意的聚类结果,但这些变体仍存在两个局限性。其一,它们未能同时将多视角的特异性和一致性纳入潜在表示学习。尽管近期的研究强调了分离特异性和一致性表示的重要性[9]、[10],但如何将二者显式地整合到面向MVSC的潜在表示学习中仍缺乏充分探索。在多视角聚类中,一致性指不同视角之间共享的信息,用以表征共同的潜在簇结构;而特异性指依赖于特定视角的互补信息,用以捕捉视角特有的变化同时保持与同一聚类结构兼容。一致性确保不同视角产生一致的聚类结果,而特异性则保留单个视角中的互补信息。通过联合学习这两方面,聚类过程既能实现跨视角的一致,又能对多视角数据进行全面表征。其二,由于基于矩阵的建模方式,这些方法无法有效捕捉多视角之间的高阶相关性。近期的深度跨视角重建模型也强调了建模相关子空间以保留跨视角结构一致性是必要的[11],这进一步凸显了超出基于矩阵的建模方式、捕捉高阶相关性的需求。
为克服这些局限性,我们提出了一种名为"张量化潜在MVSC特异性与一致性"(TSCL-MVSC)的新颖模型。所提出的模型联合利用特异性和一致性,从原始数据中学习潜在表示。它通过潜在表示的自表达特性,导出相应的特异性和一致性自表示矩阵。此外,TSCL-MVSC将这些自表示矩阵堆叠为三阶张量,对其进行旋转,并对该张量施加低秩约束,以捕捉多视角之间的高阶相关性并促进特异性与一致性之间的协同学习。为了准确捕捉高阶相关性,我们引入了张量对数行列式函数作为约束,而非常用的张量核范数。为优化我们的目标函数,我们提出了一种基于交替方向乘子法(ADMM)[12]的迭代优化算法。
本文的主要贡献总结如下:
•我们首次提出将特异性和一致性同时纳入潜在与子空间表示学习,从而充分利用多视角之间的互补信息。
•我们通过堆叠由相应潜在表示得到的特异性和一致性自表示矩阵构建三阶张量,并施加张量对数行列式正则化以约束该张量。通过这种方式,我们的模型有效地探索高阶相关性并促进特异性与一致性的相互学习。
•为解决TSCL-MVSC的优化问题,我们设计了一种基于ADMM的迭代算法。此外,在八个知名数据集上的实验结果表明,与所有比较方法相比,我们的TSCL-MVSC取得了最佳的平均聚类性能。
章节摘要
潜在多视角子空间聚类
潜在多视角子空间聚类(LMVSC)[6]、[8]假设一个底层潜在表示嵌入于多个视角中。这种共享表示有效地利用了来自各视角的互补信息。与直接从原始数据学习自表示矩阵的常规方法不同,LMVSC从潜在表示中导出自表示矩阵。设{X^(v)}_{v=1}^V表示多个视角的特征矩阵。优化
所提出的TSCL-MVSC
本节介绍所提出的TSCL-MVSC,它将特异性与一致性的联合学习、潜在表示和低秩张量表示整合到统一的MVSC框架中。TSCL-MVSC的流程如图1所示。我们给出了用于最小化TSCL-MVSC目标函数的优化算法,并分析了其计算复杂度与收敛性。
实验
本节在八个多视角数据集上评估TSCL-MVSC的聚类性能,并将其与十五种竞争方法进行对比,以展示其有效性。此外,我们对所提出的模型进行了详细分析,包括参数敏感性分析、消融实验、不同组件亲和度贡献的分析以及数值收敛性分析。实验在MATLAB R2024a中进行。
结论
本文提出了一种名为TSCL-MVSC的新型LMVSC模型。所提出的模型将特异性与一致性的联合学习、潜在表示、子空间表示和低秩张量表示整合到一个统一的框架中。具体而言,它同时学习特异性和一致性的潜在表示,并从中导出相应的自表示,以联合学习多视角的特异性和一致性。随后,这些自表示
CRediT作者贡献声明
严亭和(Tinghe Yan):撰写——初稿、软件、方法论、概念化。
郭强(Qiang Guo):撰写——审阅与编辑、调查研究、形式化分析、数据整理。
米建勋(Jian-Xun Mi):撰写——审阅与编辑、监督、资源、项目管理、资金获取。
赖智慧(Zhihui Lai):撰写——审阅与编辑、验证。
李世盛(Weisheng Li):撰写——审阅与编辑、可视化。
利益冲突声明
作者声明,他们没有已知的可能影响本文所报告工作的竞争性财务利益或个人关系。
致谢
本研究得到了国家自然科学基金(编号:62221005)的支持。
严亭和 | 郭强 | 米建勋 | 赖智慧 | 李世盛
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号