经典卷积网络--AlexNet
经典卷积网络--AlexNet
该网络值得借鉴的地方:激活函数使用
Relu
,提升训练速度;Dropout
防止过拟合。
1、AlexNet网络结构
AlexNet 网络诞生于 2012 年,是第一个在图像识别比赛中获得冠军的深度学习模型,其 ImageNet Top5 错误率为 16.4 %,可以说 AlexNet 的出现使得已经沉寂多年的深度学习领域开启了黄金时代。
AlexNet 的总体结构和 LeNet5 有相似之处,但是有一些很重要的改进:
- 由五层卷积、三层全连接组成,输入图像尺寸为 224 * 224 * 3,网络规模远大于 LeNet5;
- 使用了 Relu 激活函数;
- 进行了舍弃(Dropout)操作,以防止模型过拟合,提升鲁棒性;
- 增加了一些训练上的技巧,包括数据增强、学习率衰减、权重衰减(L2 正则化)等。 AlexNet 的网络结构如图所示。