【转】关于数据的异常检测一篇就够了

觉得有用的话,欢迎一起讨论相互学习~

版权声明：本文为CSDN博主「携程技术中心」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/Nx2XJBUr4Jg8ef80l1K/article/details/89325127

作者简介

束开亮，携程大市场部BI团队，负责数据分析与挖掘。同济应用数学硕士，金融数学方向，法国统计学工程师，主修风险管理与金融工程。

前言

制造厂商需要抽样检测流水线上生产的产品，数据公司同样也需要对自己的数据产品质量进行把控。检测的目的无非是及时发现产品或数据中的异常，从而修正偏差改善产品质量。

异常值在不同文献中有其不同的定义，通俗的说就是那些与其他观测值有显著偏差的观测点，有时也会称作是极端值、离群点或孤立点等，这些名词在数学的细分领域都有其不同的定义，这里不做区分。

异常值产生的原因主要是数据生成机制的不同，异常值本身不是一个贬义词，异常观测也会涵盖有用的信息，帮助分析师理解数据的分布，保证线上流程的稳健性。

一、应用场景

异常检测与监控的应用场景多样，主要包括以下：

1、ELT流程中的数据异常。ETL工程师在上层数据汇总过程中通常会考虑标记数据的极端值，比如单个用户的日pv数过千过万或单个用户周订单过百过千等，这将有助于数据分析师获取数据异常的先验信息。

2、特征工程中的数据异常。分箱操作是特征工程中常用的一种异常处理方式，在线性模型中，将变量分箱离散化可将极端值圈定在某一固定的组别，不仅能消除极端值对模型鲁棒性的影响，也能在线性性基础上引入非线性性。

3、AB测试中的数据异常。在计算转化率（随机变量服从0/1分布）时，个别的异常值不会影响AB测试的整体效果，但在计算人均订单数和人均pv数时，个别的极端值会对均值产生显著影响。

4、时序数据的监控。监控数据在时间维度上的异常情况，这里需要考虑时序数据的特性，比如趋势和周期等。

5、欺诈检测。金融场景中的欺诈案例也属于异常数据，机器学习中有很多优秀的算法可用来支持欺诈检测。

6、其他场景中的异常检测和监控不一一列举。

二、检测方法

1、概率统计模型

概率给出总体的分布来推断样本性质，统计则从样本出发来验证总体分布的假设。所以概率统计模型需要我们去验证模型假设的正确性，比如概率分布是否正确，参数的设置是否合理。

2、机器学习方法

机器学习无外乎监督、非监督以及半监督学习方法等，比如常见的聚类，二分，回归。此类方法往往注重模型的泛化能力，而弱化概率统计中的假设检验。历史数据的异常如果已标注，那么二分类方法是适用的，但业务数据的异常大多没有显示的人工标注，无法应用监督学习。

3、业务经验，逻辑规则

业务经验的丰富以及对数据的敏感性能更加直接地帮助理解异常数据，在一些轻量级的任务中，配置简单的逻辑规则也能达到很好的检测效果。

4、判定规则

异常值的判定规则主要采用以下两种方式：

a）区间判定

给出一个阈值区间，实际观测落在区间之外则判定为异常。例如，在时间序列和回归分析中，预测值与真实值的残差序列便可构建这样一个区间。

b）二分判定

二分判定的前提是数据包含人工标注。异常值标注为1，正常值标注为0，通过机器学习方法给出观测为异常的概率。

三、实际应用

1、从3 Sigma准则说起

借助正态分布的优良性质，3σ准则常用来判定数据是否异常。由于正态分布关于均值μ对称，数值分布在（μ-σ，μ+σ）中的概率为0.6827，数值分布在（μ-3σ，μ+3σ）中的概率为0.9973。也就是说只有0.3%的数据会落在均值的±3σ之外，这是一个小概率事件。为了避免极端值影响到模型整体的鲁棒性，常将其判定为异常值并从数据中剔除。

引用自: https://en.wikipedia.org/wiki/68%E2%80%9395%E2%80%9399.7_rule

正态分布的参数μ和σ极易受到个别异常值的影响，从而影响判定的有效性，因此又产生了Tukey箱型图法。

上图中IQR，即四分位间距Q3-Q1，(Q1, Q3)涵盖了数据分布最中间的50%的数据，具有稳健性。数据落在 (Q1-1.5*IQR, Q3+1.5*IQR) 范围内，则认为是正常值，在此范围之外的即为异常值。

2、BOX-COX转化

当原始数据的分布是有偏的，不满足正态分布时，可通过BOX-COX转化，在一定程度上修正分布的偏态。转换无需先验信息，但需要搜寻最优的参数λ。

对于一个右偏数据，如下左图，λ取3.69时，转换后的数据分布*似一个正态分布，如下右图。严格地来说，在应用正态分布的性质之前，还需对转换后的数据做正态性检验。

3、幂律分布vs正态分布

除了常见的正态分布，还有一种极其重要却极易被忽略的分布-幂律分布。在日常的数据分析中，订单数据和浏览数据常呈现*似幂律分布。

下图展现的是社交网络中用户数和用户粉丝数的关系，可以看出拥有200（横轴）以上的粉丝的用户数（纵轴）占极少数，而拥有<100粉丝的用户数成百上千，这就是幂律分布的特点：少数群体占有着多数的资源。

呈现幂律分布特点的数据可通过log转换使观测点*似其分布在一条直线上，方便后续分析和预测，而分布中的那些所谓的“极端值”却不能像分析正态分布那样随意的剔除。考虑到计算中数据的倾斜问题，在不影响整体效果的情况下，可根据更加细致的分位点对极端值进行取舍。

4、回归分析

在回归分析中，尤其是线性回归中，异常的数值也会对模型的拟合效果产生较大的影响。

对图中7个数据点进行拟合，蓝色的回归曲线线受到右上方高杠杆值的影响，偏向了它，拟合并不理想。对高杠杆值的识别不足以用来检测回归中的异常，更有效的方式是计算每个数据点的Cook距离。

Cook距离表征了包含此观测点和剔除此观测点前后模型的拟合效果的差别，差别越大，此点对模型影响越大，可考虑删除，因为在一个稳健的模型中每个点对模型的影响都认为是均匀的。删除强影响点之后，橘色的曲线对大部分的点的拟合都比较满意。

5、基于密度的方法

在一维空间中的固有思维是较大或较小的数据会是异常，但是在高维空间中，数据是不能直接拿来比较大小的。仍以一维数据为例，考虑以下序列的异常情况：

｛1，2，3，2，50，97，97，98，99｝

50更有可能认为是异常或离群点，而非1或99。当数据分布的假设不是必要条件时，计算数据点的密度来判定异常也是一个行之有效的方法。

点的密度可有多种定义，但多数都会依赖距离的定义，多维空间的距离计算较为复杂，尤其当数据混入分类变量和连续数值变量的时候。以一个简单的密度方法为例，在LOF（Breunig,M., Kriegel, H., Ng, R., and Sander, J. (2000). LOF:identifying density-based local outliers.）算法中，数据的异常判定依赖于计算每个观测的局部离群因子。

离群因子表征了数据点与周围邻居点的密切程度，或者不合群的程度。因子值越大，其为异常点的可能性越大。上述一维序列的各点离群因子值如下左图，第5个点（50）对应的离群因子最高，可被判定是异常值。下右图是维基百科上一个二维空间的例子，根据局部离群因子同样可以识别出数据中的离群点。