摘要： 用tensorflow搭建RNN(LSTM)进行MNIST 手写数字辨识 循环神经网络RNN相比传统的神经网络在处理序列化数据时更有优势，因为RNN能够将加入上（下）文信息进行考虑。一个简单的RNN如下图所示： 将这个循环展开得到下图： 上一时刻的状态会传递到下一时刻。这种链式特性决定了RNN能够很 阅读全文

摘要： 神经网络的反向传播 对于下面的神经网络，输入为$x_1$，$x_2$，$x_3$，输出为$y_1$，$y_2$，$y_3$，激活函数$f$为逻辑斯蒂函数即$f=\frac{1}{1+e^{ z}}$，如何用梯度下降法求解呢？ 首先定义这里的损失函数：$L(\theta)=\frac{1}{2}\su 阅读全文