摘要: Mini-batch SGD的步骤: 1.Sample a batch of data 2.Forward prop it through the graph,get loss 3.backprop to calculate the gradient 4. updata the parameters 阅读全文
posted @ 2019-03-20 16:17 陈柯成 阅读(278) 评论(0) 推荐(0)
摘要: Jacobian矩阵和Hessian矩阵 1. Jacobian 在向量分析中, 雅可比矩阵是一阶偏导数以一定方式排列成的矩阵, 其行列式称为雅可比行列式. 还有, 在代数几何中, 代数曲线的雅可比量表示雅可比簇:伴随该曲线的一个代数群, 曲线可以嵌入其中. 它们全部都以数学家卡尔·雅可比(Carl 阅读全文
posted @ 2019-03-20 16:16 陈柯成 阅读(1795) 评论(0) 推荐(1)