珠峰上吹泡泡

摘要： 1 简介 在线性分类一节中，在给出图像的情况下，是使用$s=W x$来计算不同视觉类别的评分，其中$W$是一个矩阵，$x$是一个输入列向量，它包含了图像的全部像素数据。 在使用数据库CIFAR 10的案例中，$x$是一个$[3072 \times 1]$的列向量，$W$是一个$[10 \times 阅读全文

摘要： 1 反向传播的直观理解 反向传播是利用链式法则递归计算表达式的梯度的方法。 理解反向传播过程及其精妙之处，对于理解、实现、设计和调试神经网络非常关键。 反向传播是一个优美的局部过程。在整个计算线路图中，每个门单元都会得到一些输入并立即计算两个东西： 这个门的输出值 其输出值关于输入值的局部梯度 门单 阅读全文