摘要: ReLU层的设计: ReLU函数: 导数: Sigmoid层的设计: Affine 层: Softmax-with-Loss 层的实现 对应误差反向传播法的神经网络的实现: 阅读全文
posted @ 2019-09-02 16:33 欣姐姐 阅读(1381) 评论(0) 推荐(0)
摘要: 梯度的实现: 梯度下降法的实现: 神经网络的梯度 下面,我们以一个简单的神经网络为例,来实现求梯度的代码: 学习算法的实现: 前提 神经网络存在合适的权重和偏置,调整权重和偏置以便拟合训练数据的过程称为“学习”。神经网络的学习分成下面 4 个步骤。 步骤 1(mini-batch) 从训练数据中随机 阅读全文
posted @ 2019-09-02 12:17 欣姐姐 阅读(3690) 评论(1) 推荐(1)