摘要：ResNets：即残差网络，能帮助解决由于网络结构过于deep而产生的梯度消失问题。 Two main types of blocks are used in a ResNet, depending mainly on whether the input/output dimensions are 阅读全文

摘要：mini-batch梯度下降当我们的training set比较小的时候，我们经常利用向量化的方法一次性把整个trainjing set都投入到训练中，当然，当数据量小的时候当然可以这么用；但是如果数据量比较大的时候呢？（这个数据量大一般指大于2000）我们如果还是采用一次性把所有的training 阅读全文