摘要：SGD神经网络以及python中实现 1、SGD（stochastic gradient descend）：<1>数据抽取；<2>计算梯度;<3>参数更新；<4>循环 2、三层SGD网络组件：隐藏层（1），隐藏层（2），输出层，损失函数 2.1隐藏层： <1>激活函数/激励函数:sigmoid函数和 阅读全文

摘要：接上节： 3、梯度（gradient）： def numerical_gradient(f,x): h=1e-5 grad=np.zeros_like(x) for index_x in range(x.size): tmp=x[index_x] x[index_x]=tmp+h fxh1=f(x) 阅读全文