Picassooo

摘要： 参考： Dropout解决过拟合问题 Dropout原理与实现 Dropout详解 Dropout的定义 在神经网络的训练过程的前向传播中，每个batch的迭代时，以概率p随机关闭神经元（每个neuron, 有p%的可能性被去除;（注意不是去除p比例的神经元），本次反向传播时，只更新未关闭的神经元； 阅读全文

摘要： 什么是non-saturating neurons非饱和神经元？ 阅读全文