摘要: 3.1 局部极小值与鞍点 3.1.1 临界点及其分类 参数对于损失函数的微分为零时,就无法进一步优化了,训练即停止了。所以我们把这些梯度为零的点统称为临界点 。 临界点可以分为两类:极值点 (局部极小值)和 鞍点 。 鞍点就是指那些梯度为零但不是局部极小值或者局部极大值的点,因为其在损失函数的图像上 阅读全文
posted @ 2024-08-27 23:14 youth518 阅读(75) 评论(0) 推荐(0)