随笔分类 - 优化算法
摘要:引言 自然梯度法与牛顿法一样,是二阶梯度优化算法。自然梯度法相比最速梯度下降法的优势(?)是在模型参数更新后,模型建模的概率分布与之前不会有太大变化。 背景知识 流形$M$是局部欧几里得的Hausdorff空间。Hausdorff空间意味着对于任意两点,它们存在不相交的邻域(也就是说每个点都是相对独
阅读全文
posted @ 2020-03-01 22:13
graycastle

浙公网安备 33010602011771号