2021年7月27日
深度学习中的优化方法（一）
摘要： 写在前面：梯度下降法是深度学习优化的基础，因此本文首先探讨一维优化算法，然后扩展到多维。本文根据《最优化导论》(孙志强等译)的内容整理而来，由于笔者水平和精力有限，在此只是在简单层面做一个理解，如果要追求更严谨的数学理论，请大家参考相关书籍。在本文中，我们讨论目标函数为一元单值函数 \(f:R\ri 阅读全文
posted @ 2021-07-27 17:38 ZhiboZhao 阅读(486) 评论(0) 推荐(0) 编辑