2018年1月18日
Batch Normalization and Binarized Neural Networks
摘要： 1使用BN进行数据归一化的原因 a) 神经网络学习过程本质就是为了学习数据分布，一旦训练数据与测试数据的分布不同，那么网络的泛化能力也大大降低； b) 另外一方面，一旦每批训练数据的分布各不相同(batch 梯度下降)，那么网络就要在每次迭代都去学习适应不同的分布，这样将会大大降低网络的训练速度. 阅读全文
posted @ 2018-01-18 11:29 YJ-20 阅读(181) 评论(0) 推荐(0) 编辑