2020年7月12日
深度学习优化算法总结——从SGD到Adam
摘要： 本文参考自：SGD、Momentum、RMSprop、Adam区别与联系 上一篇博客总结了一下随机梯度下降、mini-batch梯度下降和batch梯度下降之间的区别，这三种都属于在Loss这个level的区分，并且实际应用中也是mini-batch梯度下降应用的比较多。为了在实际应用中弥补这种朴素 阅读全文
posted @ 2020-07-12 22:35 旺仔真知棒 阅读(2086) 评论(0) 推荐(0)