PLC：自动纠正数据集噪声，来洗洗数据集吧 | ICLR 2021 Spotlight

论文提出了更通用的特征相关噪声类别PMD，基于此类噪声构建了数据校准策略PLC来帮助模型更好地收敛，在生成数据集和真实数据集上的实验证明了其算法的有效性。论文提出的方案理论证明完备，应用起来十分简单，值得尝试

来源：晓飞的算法工程笔记公众号

论文: Learning with Feature-Dependent Label Noise: A Progressive Approach

论文地址：https://arxiv.org/abs/2103.07756v3
论文代码：https://github.com/pxiangwu/PLC

Introduction

在大型数据集中，由于标签的歧义以及标注者的大意，错误的标注是不可避免的。由于噪声对有监督训练的影响很大，所以在实际应用中研究如何处理错误的标注是至关重要的。
一些经典方法对噪声进行独立同分布(i.i.d.)的假设，认为噪声与数据特征无关，有其自身的规律。这些方法要么直接预测噪声分布来分辨噪声，要么引入额外的正则项/损失项来分辨噪声。而另外一些方法则证明，常用的损失项本身就能够抵抗这些独立同分布的噪声，不需要关心。
这些方法虽然有理论保证，但实际中表现都不佳，因为独立同分布的噪声假设是不真实的。这意味着，数据集的噪声是多样的，而且与数据特征相关，比如外表模糊的猫有可能被误认为狗。在光线不足或遮挡的情况下，图片失去了重要的视觉分辨线索，很容易被误标注。为了应对这个现实中的挑战，应对噪声的处理方法不仅需要有效，其通用性也是十分必要的。
SOTA方法多数采用数据重新校准(data-recalibrating)的策略来适应各种各样的数据噪声，该策略逐步确认可信的数据或逐步校正标签，然后使用这些数据进行训练。随着数据集更加准确，模型的准确率也会逐渐提高，最终收敛到高准确率。该策略很好地利用了深度网络的学习能力，在实践中获得不错的效果。
但目前这些策略的内在机制都没有完备的理论证明，解释为何这些策略可以使得模型收敛到理想的状态。这意味着这些策略都是case by case的，需要很小心地调整超参数，难以通用。

基于上面的分析，论文定义了更为常见的PMD噪声族(Polynomial Margin Dimishing Noise Family)，包含除了显而易见的错误之外的任意类型噪声，更符合现实场景。基于PMD噪声族，论文提出了有理论保证的数据校准方法，根据噪声分类器的置信度逐步校准数据的标签。流程如图1所示，先从高置信度的数据开始，使用噪声分类器的预测结果校准这些数据，然后使用校准后的数据提升模型，交替进行标签校准和模型提升直到模型收敛。

Method

先定义一些数学符号，这里以二分类任务为例：

定义特征空间\(\mathcal{X}\)，数据\((x,y)\)均从分布\(D=\mathcal{X}\times\{0,1\}\)采样而来。
定义\(\eta(x)=\mathbb{P}[y=1|x]\)为后验概率，值越大代表正标签越明显，而值越小则代表负标签越明显。
定义噪声函数\(\tau_{0,1}(x)=\mathbb{P}=[\tilde{y}=1 | y=0, x]\)和\(\tau_{1,0}(x)=\mathbb{P}=[\tilde{y}=0 | y=1, x]\)，其中\(\tilde{y}\)为错误标签。假设数据\(x\)的真实标签为\(y=0\)，则有\(\tau_{0,1}(x)\)概率错误地标注为1。
定义\(\tilde{\eta}(x)=\mathbb{P}[\tilde{y}=1|x]\)为噪声后验概率。
定义\(\eta^{*}(x)=\mathbb{I}_{\eta(x)\ge\frac{1}{2}}\)为贝叶斯最优分类器，当A为真时\(\mathbb{I}_A=1\)，否则为0。
定义\(f(x):\mathcal{X}\to [0,1]\)为分类器打分函数，一般是网络的softmax输出。

Poly-Margin Diminishing Noise

PMD噪声只将噪声函数\(\tau\)约束在特定的\(\eta(x)\)中间区域，区域内的噪声函数\(\tau\)的值多大都无所谓。这样的形式不仅能够覆盖特征无关的场景，也能泛化到之前的一些噪声研究的特定场景中。

PMD噪声的定义如上所示，\(t_0\)可认为是左右两边的间隔(margin)。PMD条件只要求\(\tau\)的上界是多项式的并且在贝叶斯分类器置信的区域单调递减，而\(\tau_{0,1}(x)\)和\(\tau_{1,0}(x)\)在\(\{ x:|\eta(x)-\frac{1}{2}| < t_0 \}\)区域内可为任意值。

前面的PMD噪声描述可能比较抽象，论文提供了可视化图片来帮助大家理解：

图a是贝叶斯最优分类器的结果，即正确标签。从下面的\(\eta(x)\)曲线可以看出，两边数据的二分类概率差别较大，是容易区分的。而中间的数据的二分类概率比较接近，有较大的误标注的可能，也是我们需要重点关注的。
图b是均匀噪声，该噪声认为误分概率与特征无关，每个数据点都有相同的概率被误分。上图中黑色的是被认为是正确的数据，红色则是被认为属于噪声的数据，可以看到，经过均匀噪声处理后，数据分布比较乱。
图c是BCN噪声，噪声值随着\(\eta^{*}(x)\)的置信而下降。从上图可以看出，处理后的噪声数据基本都落在中间区域，也就是容易误识别的地方。但由于BCN噪声的边界与\(\eta^{*}(x)\)高度相关，而实践中一般要用模型的输出来近似\(\eta^{*}(x)\)，在噪声程度较大的场景显然会有较大的出入。
图d是PMD噪声，约束噪声在\(\eta^{*}(x)\)的中间区域，区域内的噪声值随意。这样做的好处在于，可以通过调控区域大小来应对不同的噪声程度，只要不是显而易见的错误都可以(即在\(\eta\)较高和较低的地方标注错误)适用。从上图可以看出，处理后的干净数据基本都分布在两边，也就是比较置信的地方。

The Progressive Correction Algorithm

基于PMD噪声，论文提出逐步训练和纠正标签的PLC(Progressive Label Correction)算法。该算法首先使用原数据集进行warm-up阶段的训练，得到一个尚未拟合噪声的初步网络。接着，使用warm-up得到的初步网络对高置信度的数据进行标签的纠正，论文认为(也理论证明了)噪声分类器\(f\)的高置信度预测能与贝叶斯最优分类器\(\eta^{*}\)保持一致。
纠正标签时，先选择一个高阈值\(\theta\)。如果\(f\)预测标签跟标注标签\(\tilde{y}\)不同且预测置信度高于阈值，即\(|f(x)-1/2|>\theta\)，则将\(\tilde{y}\)纠正为\(f\)的预测标签。重复进行标签的纠正以及用纠正的数据集进行模型的重新训练，直到没有标签被纠正为止。
接着，稍微降低阈值\(\theta\)，使用降低的阈值进重复上述的步骤，直到模型收敛。为了方便后面的理论分析，论文定义了一个连续递增阈值\(T\)，让\(\theta=1/2-T\)，具体逻辑如算法1所示。

Generalizing to the multi-class scenario

上面的描述都是二分类的场景，在多分类场景中，先定义\(f_i(x)\)为分类器对标签\(i\)的预测概率，\(h_x=argmax_if_i(x)\)为分类器预测的标签。将\(|f(x)-\frac{1}{2}|\)的判断修改为|\(f_{h_x}(x)-f_{\tilde{y}}(x)|\)，当结果大于阈值\(\theta\)时，将标签\(\tilde{y}\)修改为标签\(h_x\)。在实践过程中，将差值判断加上对数会更加鲁棒。

Analysis

这一块是论文的核心，主要从理论的角度验证论文提出方法的通用性和正确性。这里我们就不继续讲解了，有兴趣的可以去看看原文，我们只需要知道这个算法的用法就够了。

Experiment

数据集噪声问题目前还没有公开的数据集，所以需要生成数据集进行实验，论文主要在CIFAR-10和CIFAR-100上进行数据生成和实验。先在原数据上训练一个网络，用该网络的预测概率近似真实的后验概率\(\eta\)。基于\(\eta\)重新采样数据\(x\)的标签\(y_x\sim\eta(x)\)作为干净数据集，前面训练得到的网络作为贝叶斯最优分类器\(\eta^{*}:\mathcal{X}\to\{1,\cdots,C\}\)，其中\(C\)为类别数。需要注意的是，多类别场景中，\(\eta(x)\)输出为向量，\(\eta_i(x)\)对应向量的第\(i\)个元素。
对于噪声的生成，有特征相关噪声和独立同分布噪声(i.d.d)两种：

对于特征相关噪声，为了增加噪声的挑战难度，每个数据\(x\)根据噪声函数均可能从最高置信分类\(u_x\)变为第二置信分类\(s_x\)，其中噪声函数与\(\eta(x)\)的概率相关。\(s_x\)对于\(\eta^{*}(x)\)是混淆度最高的类别，最能影响模型的性能。另外，由于\(y_x\)是从\(\eta(x)\)采样而来的，是置信度最高的类别，所以可认为\(y_x\)就是\(u_x\)。总体而言，对于数据\(x\)，生成数据时要么变为\(s_x\)，要么保持\(u_x\)。特征相关噪声有以下三种PMD噪声族内的噪声函数：

由于\(\eta(x)\)是无法修改的，为了能够控制噪声程度，唯一能做的就是为噪声函数\(\tau_{u_x,s_x}\)加上常量因子，使得最终的噪声比例符合预期。对于PMD噪声，35%和70%的噪声程度即代表35%和70%的干净数据被修改成噪声。
独立同分布噪声通过构建噪声转换矩阵\(T\)来进行标签的修改，其中\(T_{ij}=P(\tilde{y}=j|y=i)=\tau_{ij}\)为真实标签\(y=i\)转换为标签\(j\)的概率。对于标签为\(i\)的数据，将其标签修改为从矩阵\(T\)的第\(i\)行的概率分布采样而来的标签。论文采用了常见两种独立同分布噪声：1）均匀噪声(Uniform noise)，真实标签\(i\)转换成其它标签的概率相同，即\(T_{ij}=\tau/(C-1)\)，其中\(i\ne j\)，\(T_{ii}=1-\tau\)，\(\tau\)为噪声程度。2）非对称噪声(Asymmetric noise)，真实标签\(i\)有概率\(T_{ij}=\tau\)概率转换成标签\(j\)，或\(T_{ii}=1-\tau\)概率保持不变。