摘要：1.神经网络参数训练迭代过程 我们在网络结构已知的情况下，对神经网络参数进行迭代式地训练 训练过程如下图 2.方向导数与偏导数 函数在某点有无数个切线的斜率的定义，而每一个切线都代表了一个变化的方向。 偏导数可以研究多元函数在降维时候的变化率。比如二元函数固定y不变，只让x单独变化，将其看成是关于x 阅读全文

摘要：1.前向运算 定义：计算输出值的过程称为前向传播 2.反向传播 反向传播（Backpropagation, BP）是一种神经网络（参数模型）训练方法，它解决神经网络优化的问题。它通过计算输出层结果与真实值之间的偏差来进行逐层调节参数（也被称为梯度下降算法） 阅读全文

摘要：1.最简单的神经网络示意图 其分为输入层、输出层、隐藏层 对于这样一个最简单的神经网络，只有一个隐藏层 在图中，连线代表此神经元是由上一层的结点，通过一定的运算得到的。也就是说我们定义好输入层的值和其结点的运算方式，我们就可以得到下一层的结点所对应的值 2.感知器 感知器是第一个具有完整算法描述的神 阅读全文