ZHGQCN

摘要： 为什么要数据归一化Feature Scaling 由于原始数据值的范围差异很大，因此在某些机器学习算法中，如果没有归一化，目标函数将无法正常工作。例如，许多分类器通过欧几里得距离来计算两点之间的距离。如果其中一个要素的取值范围较广，则该距离将受此特定要素支配。因此，所有特征的范围应归一化，以使每个特 阅读全文

摘要： 为什么要权值初始化？ 权重初始化的目的是：防止在深度神经网络的正向（前向）传播过程中层激活函数的输出损失梯度爆炸或消失。如果发生任何一种情况，损失梯度太大或太小，就无法有效地反向传播，并且即便可以反向传播，网络也需要花更长时间来达到收敛。 网络初始化的一般做法：让输入值落入类似一个均值为0，标准差为 阅读全文