馒头and花卷

摘要： [TOC] "matplotlib" 教程学习笔记 python import numpy as np import matplotlib.pyplot as plt from matplotlib.gridspec import GridSpec def index_to_coordinate(i 阅读全文

摘要： [TOC] Momentum Momentum的迭代公式为： $$ v_t = \gamma v_{t 1} + \eta \nabla_\theta J(\theta) \\ \theta=\theta v_t $$ 其中$J(\cdot)$一般为损失函数。我们知道，一般的梯度下降，是没有$\ga 阅读全文