随笔分类 -  优化算法

摘要:引言 自然梯度法与牛顿法一样,是二阶梯度优化算法。自然梯度法相比最速梯度下降法的优势(?)是在模型参数更新后,模型建模的概率分布与之前不会有太大变化。 背景知识 流形$M$是局部欧几里得的Hausdorff空间。Hausdorff空间意味着对于任意两点,它们存在不相交的邻域(也就是说每个点都是相对独 阅读全文
posted @ 2020-03-01 22:13 graycastle