随笔分类 -  神经网络基本原理

摘要：神经网络又不是通过记住样本来学习，这样又怎么能泛化到测试集上呢？因此一个epoch并不行。 说到底这个问题就是因为神经网络是个非凸优化问题，使得你不能搞很大的学习率，然而从初始化点到能很好权衡正则化项足够小和后验概率足够大的那个平衡点是有很长的一段路要走的（后验概率最大的那个点我指的是理论上神经网络 阅读全文