摘要: 学习率的调整问题 关于warmup: 可以参考神经网络中 warmup 策略为什么有效;有什么理论解释么? - 香侬科技的回答 - 知乎 https://www.zhihu.com/question/338066667/answer/771252708 简单来说就是:在神经网络训练前,为了防止提前过 阅读全文
posted @ 2020-03-11 16:50 Snow丶Flower 阅读(360) 评论(0) 推荐(0) 编辑