摘要: 梯度下降优化算法 在梯度下降优化算法中,可能会遇到以下情况: 遇到平缓区域,梯度值较小,参数优化变慢 遇到"鞍点",梯度为0,参数无法继续优化 遇到局部最小值,参数无法达到全局最优 为了解决这些问题,研究者们提出了一系列梯度下降优化算法的改进方法,例如:Momentum、AdaGrad、RMSPro 阅读全文
posted @ 2026-01-08 00:39 xggx 阅读(11) 评论(0) 推荐(0)