12 2018 档案

摘要:梯度下降学习率的设定策略总结的太牛逼了 本文主要介绍了几种梯度下降学习率的设定策略,其中“固定学习率”、“学习率衰减”适用于简单不太复杂的应用场景,“基于Armijo准则的线性回溯搜索算法”可以当做一种自适应学习率调整,不过由于计算复杂且无法有效解决陷入局... 阅读全文
posted @ 2018-12-10 16:22 赶考书生 阅读(152) 评论(0) 推荐(0)