摘要: 批量归一化 在对神经网络的优化方法中,有一种使用十分广泛的方法——批量归一化,使得神经网络的识别准确度得到了极大的提升。 在网络的前向计算过程中,当输出的数据不再同一分布时,可能会使得loss的值非常大,使得网络无法进行计算。产生梯度爆炸的原因是因为网络的内部协变量转移,即正向传播的不同层参数会将反 阅读全文
posted @ 2019-06-09 20:53 Baby-Lily 阅读(3360) 评论(0) 推荐(1) 编辑
摘要: 在TensorFlow中封装好了一个高级库,tf.contrib.layers库封装了很多的函数,使用这个高级库来开发将会提高效率,卷积函数使用tf.contrib.layers.conv2d,池化函数使用tf.contrib.layers.max_pool2d和tf.contrib.layers. 阅读全文
posted @ 2019-06-09 13:21 Baby-Lily 阅读(4317) 评论(0) 推荐(0) 编辑