摘要：
CNN 最早主要用来处理图像信息. 如果用全连接 (fully connected) FNN 来处理, 则会有以下问题: 1. 参数太多: 这会导致训练效率低下, 容易过拟合. 2. 局部不变性特征: 自然图像中的物体都具有局部不变性特征, 比如 scaling, shifting and rota 阅读全文
摘要：
每一层的神经元仅接受前一层神经元的输出, 并输入到下一层神经元, 神经元间的连接不会形成环. 有种 Markov chain 的味道. $L$: 层数; $m^{(l)}$: 第 $l$ 层神经元的个数; $f_l$: 第 $l$ 层 activation function; $W^{(l)}$: 阅读全文