PASS:基于同行共识的带实例相关噪声标签的训练样本选择方法
《Image and Vision Computing》:PASS: Peer-agreement based sample selection for training with instance dependent noisy labels
【字体:
大
中
小
】
时间:2025年12月17日
来源:Image and Vision Computing 5.0
编辑推荐:
阿皮特·加格|阮强|拉斐尔·费利克斯|多坦-托安|古斯塔沃·卡内罗
澳大利亚阿德莱德大学澳大利亚机器学习研究所
摘要
深度学习在处理带有噪声标签的样本时面临巨大挑战,这类样本可能导致训练出的模型过拟合。在噪声标签学习技术中,一个主要难题在于如何区分难分类样本(位于决
阿皮特·加格|阮强|拉斐尔·费利克斯|多坦-托安|古斯塔沃·卡内罗
澳大利亚阿德莱德大学澳大利亚机器学习研究所
摘要
深度学习在处理带有噪声标签的样本时面临巨大挑战,这类样本可能导致训练出的模型过拟合。在噪声标签学习技术中,一个主要难题在于如何区分难分类样本(位于决策边界附近的干净标签样本)与实例依赖型噪声标签样本,以便在训练过程中对不同样本采取差异化处理。目前用于识别实例依赖型噪声标签样本的方法,如小损失假设和基于特征的选择,其效果有限,难以有效应对现实世界中的标签噪声问题。我们提出了一种名为“基于同行共识的样本选择”(PASS)的新方法,该方法利用三个分类器,通过两个模型之间的共识来准确区分干净标签样本和噪声标签样本,进而用于训练第三个模型。与现有技术相比,PASS专门针对实例依赖型噪声标签的复杂性设计,因为此类噪声模式与样本特征存在关联。我们的方法能够与现有的噪声标签学习算法无缝集成,提升对噪声样本和干净样本的识别精度。在模拟数据集(CIFAR-100和Red mini-ImageNet)以及真实数据集(Animal-10N、CIFAR-N、Clothing1M和mini-WebVision)上进行的全面实验表明,PASS显著提升了多种先进方法的性能。尤其在高噪声水平的情况下,该技术能实现更出色的分类精度。
1 引言
在深度神经网络和机器学习领域,人们普遍认为,充足的带标签训练数据以及足够的计算资源能够在计算机视觉、自然语言处理和医学等领域带来优异的成果[1]。不过,这些良好成果大多依赖于经过精心整理、标签质量极高的数据集。在现实场景中,为大型数据集收集如此高质量的标签往往成本极高[2]。因此,包括众包[2]和元数据挖掘[3]在内的低成本标签标注方法逐渐受到重视,但它们产生的标签质量往往不尽如人意[2]。尽管这些方法能降低成本并加快标注速度,却容易引发数据标注错误[2]。错误的标签可能通过导致模型记忆化现象而引发过拟合,进而降低深度神经网络的性能[4][5]。这一问题促使人们开发出各种创新的学习算法来应对噪声标签问题。在噪声标签研究领域,已经出现了许多方法[4][6][7],每种方法都是为了解决特定噪声环境带来的挑战。早期的噪声标签研究假设标签噪声为独立同分布类型,即无论图像中包含何种视觉类别信息,都可能出现标注错误[4]。传统的独立同分布方法通常使用转移矩阵,该矩阵规定了标签对之间切换的概率[8]。然而,近年来的研究逐渐将关注点转向更为现实的实例依赖型噪声标签情况[6],在这种情境下,标签噪声既与干净标签有关,也与图像信息相关。尽管有了这一转变,当前方法在有效处理实例依赖型噪声标签方面仍面临巨大挑战。虽然已有许多针对实例依赖型噪声标签的方法被提出,包括图模型[6][9][10],但这些方法在有效区分干净标签样本和噪声标签样本方面仍存在诸多困难。这是因为在实例依赖型噪声标签场景中,输入数据与标签噪声之间存在关联,这使得错误标签样本的识别和修正变得复杂,因为独立同分布场景下使用的传统假设[4][11]已不再适用。这一差距凸显出需要新的分离方法,能够区分干净标签样本和噪声标签样本,从而应对实例依赖型噪声标签带来的复杂性。
以往用于减轻噪声标签样本影响的技术,往往涉及手动挑选干净样本以构建干净验证集[12]。对于具有众多类别的问题而言,获取干净验证样本十分困难,这促使近期的一些研究开始探索无需依赖干净验证集的半监督学习方法[4][13]。其他方法则采用专门的鲁棒损失函数[2],这类函数能够有效处理干净标签或噪声标签数据;还有基于概率建模的方法,用于描述数据的生成过程[6]。此外,训练正则化技术[14]会在训练过程中对损失函数施加惩罚项,从而减少过拟合现象,提升模型的泛化能力。一种特别有效的策略[4][6]是分别对干净标签样本和噪声标签样本进行训练,但这种策略依赖于有效的机制来筛选干净标签样本和噪声标签样本。
目前已有多种技术被提出用于样本筛选过程。其中一种方法是根据训练有素的分类器的预测结果与其实际标签之间的损失值来进行筛选,一般认为噪声标签数据会表现出较大的损失值[4][15],或者在训练过程中梯度幅度更大[2]。另一种方法是基于特征的选择,该方法要么依据特征表示与主成分的相似度[15],要么依靠特征空间中的K最近邻分类法[3]。然而,我们在图5中通过实验证明,对于这些样本筛选方法而言,区分干净标签样本和噪声标签样本仍然是一个难题,尤其是在噪声率较高的情况下[16]。我们认为,在实例依赖型噪声标签场景中,这一难题更为严峻,因为很难区分噪声标签样本和那些看似复杂的干净标签样本。事实上,实例依赖型噪声标签对现有的样本筛选技术来说更具挑战性。因此,迫切需要更可靠的样本筛选方法,能够有效解决实例依赖型噪声标签问题中的样本筛选难题。
有人研究过利用同行分类器来解决噪声标签学习问题,以避免确认偏误[4][17],但这类方法并非用于区分干净标签样本和噪声标签样本。我们的方法则利用同行分类器之间的预测一致性,这一特性本身就能减轻实例依赖型噪声标签的影响。由于实例依赖型噪声标签与输入数据特征相关,利用具有不同视角的分类器之间的共识,可以减少特定样本的噪声模式所带来的影响。这种方法使得我们的方法即使在面对复杂的实例依赖型噪声标签场景时,也能更精准地区分干净标签样本和噪声标签样本,这与那些试图应对此类情况的现有方法有所不同。
在本文中,我们提出了一种基于同行分类器之间预测概率一致性的新样本筛选标准,该标准专为有效处理实例依赖型噪声标签而设计。在我们的方法中,如图1所示,我们同时训练三个分类器,利用两个分类器之间的共识来选择样本,用于训练第三个分类器。这种样本筛选是基于阈值算法[18],该算法根据同行分类器预测结果之间的一致程度来区分样本。我们提出的这种方法被称为“基于同行共识的样本选择”(PASS),它可以轻松集成到现有的噪声标签学习模型中,如InstanceGM[6]、DivideMix[4]、SSR[3]、FaMUS[19]、AugDesc[20]以及Contrast-to-Divide(C2D)[21]。我们的主要贡献如下:
• 我们提出了一种新的噪声标签样本筛选方法——PASS,该方法通过同行分类器之间的预测一致性有效区分干净标签样本和噪声标签样本,尤其能解决实例依赖型噪声标签带来的挑战。
• 我们证明了我们的方法可以轻松集成到现有的各类模型中,包括InstanceGM[6]、DivideMix[4]、SSR[3]、FaMUS[19]、AugDesc[20]、C2D[21]、ProMix[22]、C2MT[23]以及GM[10],并且我们证明PASS能够在多种基准测试上提升这些先进方法的性能,这些基准测试数据集包括模拟数据集和真实数据集,如CIFAR-100[24]、CIFAR-N[25]、Animal-10N[26]、来自Controlled Noisy Web Labels(CNWL)的Red mini-ImageNet[19]、Clothing1M[27]、mini-WebVision[28]以及ImageNet[29]。
需要明确的是,我们的提案并非引入一种新的噪声标签学习算法。PASS实际上是一种噪声标签筛选方法,它可以集成到许多现有的先进噪声标签学习算法中,如InstanceGM[6]、DivideMix[4]、SSR[3]、FaMUS[19]、AugDesc[20]以及C2D[21]。我们证明,PASS不仅能为实例依赖型噪声标签问题提供有效的样本筛选方案,还能在将这些算法与PASS结合使用时提升它们的性能。通过直接解决现有方法的局限性,PASS为噪声标签学习领域带来了重大进展。支持PASS的实证证据将在第5.9节中进行详细阐述:5.9.1 分析在高实例依赖型噪声标签率(例如50%)下的CIFAR100数据集上PASS的性能,5.9.2 基于Clothing1M数据集对PASS的实证分析。在完成样本筛选阶段后,我们的方法会采用专门为处理噪声标签而设计的强大训练算法,从而帮助构建更可靠的模型。
片段学习
噪声标签学习。研究表明,深度神经网络在处理随机标注的训练数据时表现极为出色,但这可能导致模型过拟合[5][30]。因此,当面对干净标签的测试数据时,这些网络的泛化能力较差[4]。为了解决这一难题,许多研究探索了在标签噪声环境下的监督学习方法,由此发展出了多种技术,如鲁棒损失函数[27]、样本筛选方法[4]、鲁棒正则化技术[27]以及其他相关技术。
方法论
在本节中,我们将介绍我们提出的新型样本筛选方法——基于同行共识的样本选择(PASS)。与那些仅依赖损失值或特征表示的现有样本筛选方法不同,PASS利用同行分类器之间的预测概率一致性来区分干净标签样本和噪声标签样本。在实例依赖型噪声标签场景下,这种方法的效率尤为突出,因为传统方法由于面对复杂的关联关系而难以发挥作用。
实验
本节将对PASS进行全面的实验评估。我们会介绍相关数据集、实现细节以及在多个噪声标签学习基准测试上的实验结果,随后还会进行消融实验分析。
关于聚类算法的消融实验
在本小节中,我们旨在研究不同的聚类算法如何影响PASS在处理实例依赖型噪声标签时的性能。具体来说,我们会比较大津算法[18]、K均值算法以及高斯混合模型,以确定哪种方法能最有效地根据同行共识得分区分干净标签样本和噪声标签样本。该消融实验是在CIFAR-100[24]的数据集上进行的,实验环境为实例依赖型噪声标签场景,噪声率为0.5。如表7所示,大津算法……
结论
本文提出了一种基于同行共识的新的样本筛选技术——PASS,用于噪声标签学习,旨在提升鲁棒分类器的性能。我们证明,PASS可以轻松集成到现有的先进噪声标签学习方法中[3][4][6][19][20][21],从而提升这些方法在多种噪声标签学习基准测试上的分类精度,这些基准测试数据集包括CIFAR-100[24]、来自Controlled Noisy Web Labels的Red mini-ImageNet[19]、Animal-10N[26]、CIFAR-N[25]、Clothing1M[27]、mini-WebVision[28]以及……
CRediT作者贡献说明
阿皮特·加格:写作——审稿与编辑、写作——初稿撰写、可视化、验证、方法论、研究设计、形式分析、数据整理、概念构建。阮强:写作——审稿与编辑、指导、研究设计、形式分析。拉斐尔·费利克斯:写作——审稿与编辑、指导、形式分析。多坦-托安:指导、形式分析。古斯塔沃·卡内罗:写作——审稿与编辑、指导、资源协调、项目管理、形式分析。
利益冲突声明
作者声明,他们不存在任何可能影响本文研究结果的已知财务利益或个人关系。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号