随笔分类 -  数学工具

摘要：[神经网络]反向传播梯度计算数学原理 1 文章概述 本文通过一段来自于Pytorch官方的warm-up的例子：使用numpy来实现一个简单的神经网络。使用基本的数学原理，对其计算过程进行理论推导，以揭示这几句神奇的代码后面所包含的原理。 估计对大多数的同学来说，看完这个文章，肯定会是这样的感觉：字 阅读全文

摘要：矩阵求导的技术，在统计学、控制论、机器学习等领域有广泛的应用。鉴于我看过的一些资料或言之不详、或繁乱无绪，本文来做个科普，分作两篇，上篇讲标量对矩阵的求导术，下篇讲矩阵对矩阵的求导术。本文使用小写字母x表示标量，粗体小写字母表示（列）向量，大写字母X表示矩阵。 首先来琢磨一下定义，标量f对矩阵X的导 阅读全文