文章分类 -  神经网络

摘要：1.梯度的定义 在单变量的函数中，梯度其实就是函数的微分，代表着函数在某个给定点的切线的斜率 在多变量函数中，梯度是一个向量，向量有方向，梯度的方向就指出了函数在给定点的上升最快的方向 2.梯度下降算法 迭代寻找下一个点Xi+1，使得f(Xi+1)<=f(Xi),直到 下降的速率为0或者接近零。 3 阅读全文