数值特征工程中的四种缩放方法：原理、适用场景与局限性

数值特征工程是机器学习模型训练中不可跳过的预处理环节。处理数值数据时需要面对两个核心问题：特征的量级差异和异常值。以年龄和薪资为例，两者的数值范围差了好几个数量级，如果不做任何处理模型很可能仅凭数值大小就给薪资分配更高的权重，完全忽略年龄的作用。

偏斜分布是另一个问题。很多特征的值集中在一个很小的范围内，但同时存在少量极端值。比如一个表示兄弟姐妹数量的特征，绝大多数样本的值在 0-2 之间，但偶尔出现的 8 或 10 会把整个分布拉偏。有时可以直接丢弃这些极端样本，但多数情况下它们携带了真实的信息不能直接删除。

应对这些问题的常用方法有四种：标准化（Standardization）、Robust缩放（Robust Scaler）、幂变换（Power Transformer）、归一化（Normalization）。

下面用 scikit-learn 内置的 California 住房数据集来逐一演示。选取"Median Income"和"Population"两个量级差异明显的特征：

接下来逐一看看上述四种技术分别如何变换数据。

https://avoid.overfit.cn/post/740a49988996433ba5410caa6f36dce8