2020年5月11日
优化学习率相关算法
摘要： 优化学习率的相关算法 在使用优化算法的时候，常常会涉及到一些学习率的优化，那么我们应该怎么优化学习率呢？ 调整学习率的策略： 1.在斜率(方向导数)大的地方，使用小的学习率 2.在斜率(方向导数)小的地方，使用大的学习率 下面我们通过梯度下降算法进行学习率的优化分析 在梯度下降中，设x[k]=a，那 阅读全文
posted @ 2020-05-11 20:04 Baby-Lily 阅读(808) 评论(0) 推荐(1) 编辑