别团等shy哥发育

摘要： 网络优化方法--正则化 正则化 1.1 正则化介绍 1.2 L1正则项与L2正则项的区别 1.3 正则化程序 正则化 1.1 正则化介绍 正则化也叫作规范化，通常用得比较多的方式是 L1 正则化和 L2 正则化。L1 和 L2 正则 化的使用实际上就是在普通的代价函数（例如均方差代价函数或交叉熵代价 阅读全文

摘要： 网络优化方法--Dropout 1、Dropout介绍 2、Dropout程序 1、Dropout介绍 Dropout 也是一种用于抵抗过拟合的技术，它试图改变网络本身来对网络进行优化。我 们先来了解一下它的工作机制，当我们训练一个普通的神经网络时，网络的结构可能如图所示。 Dropout 通常是在 阅读全文