摘要: 最近看北京大学曹建老师的TensorFlow搭建神经网络,在指数衰减学习率中,了解到指数衰减学习率的强大。由此写一些自己在学习中的感悟和启发。 大家都知道在设定学习率时,如果偏大会发生动荡不收敛,如果偏小则收敛速度慢。那么有没有一个好的方法可以让可以让学习率变化,并随着训练轮数由大到小进行变化。 答 阅读全文
posted @ 2020-07-29 11:00 dyc-Larry 阅读(2106) 评论(0) 推荐(0)