归一化与标准化

1. 数据归一化的好处

(1)提升训练的速度

(2)提升模型的精度

(3)深度模型中能够防止梯度爆炸

2 归一化方法

  min-max 归一化 

  x = (x - x_min)/(x_max - x_min) 将x 映射到[0,1]之间的一个数

  z-score 标准化

  均值为0 ,标准差为1 

3 min-max 与z-score 的优缺点

当有新的样本加入时,min-max 计算量小,z-score 需要重新计算均值、方差

min-max 当数据分布不均的时候效果会不好,比如有一个数为1000剩下的都为0-100 ,那么映射后受最大值影响基本都映射在[0,0.1]之间

当需要计算距离,相似的的时候 z-score 的表现会更好

 

posted @ 2019-10-21 23:28  阳光老男孩  阅读(370)  评论(0)    收藏  举报