归一化和标准化

• http://www.voidcn.com/article/p-nalhejjt-ke.html

此外。标准化(Standardization)表示原始值与均值之间差多少个标准差，是一个相对值，也有去除量纲的功效。适用于数据的max和min未知，或存在孤立点的情况。

• https://www.zhihu.com/question/38102762

batch-normalization，即对每个batch进行stardardization的操作。可以解决梯度在反向传播中的爆炸和消失问题。

• https://zhuanlan.zhihu.com/p/26793298
• https://www.zhihu.com/question/48820040

layer-normalization,2016年提出的较新的方法。在论文《Self-attentive Sequential Recommendation》中见到。