摘要： 全连接层网络结构：神经网络每两层之间的所有结点都是有边相连的。 卷积神经网络：1.输入层 2.卷积层：将神经网络中的每一个小块进行更加深入地分析从而得到抽象程度更高的特征。 3 池化层：可以认为将一张分别率较高的图片转化为分别率较低的图片，通过池化层，可以进一步缩小最后全连接层中节点的个数，从而达到 阅读全文

摘要： 1.滑动平均模型： 用途：用于控制变量的更新幅度，使得模型在训练初期参数更新较快，在接近最优值处参数更新较慢，幅度较小 方式：主要通过不断更新衰减率来控制变量的更新幅度。 衰减率计算公式 ： decay = min{init_decay , (1 + num_update) / (10 + num_ 阅读全文