第3次作业：卷积神经网络

一、视频学习总结

 通过视频学习，了解了卷积神经网络的基本结构，卷积层、激活层、池化层、全连接层。参数过多会导致过拟合，卷积网络通过局部关联，参数共享来减少参数。传统神经网络使用非线性函数作为激励函数，卷积神经网络构建更深，善于捕捉平移不变。

 二、代码练习

1、　　CNN

 

（1）加载数据

 

 

 

 

（2）创建网络

 

 

定义训练和测试函数

 

（3）在小型全连接网络上训练

 

 

 

（4）在卷积神经网络上训练

 

 对比两个结果，发现参数相同情况下，卷积神经网络比普通全连接网络更好

CNN 能够更好的挖掘图像中的信息，主要通过两个手段：卷积、池化

5. 打乱像素顺序再次在两个网络上训练与测试

 

对 data 加入了打乱顺序操作。

 

 

 

在全连接网络上训练与测试：

 

 

 

在卷积神经网络上训练与测试：

 

 

 

从打乱像素顺序的实验结果来看，全连接网络的性能基本上没有发生变化，但是 卷积神经网络的性能明显下降。

这是因为对于卷积神经网络，会利用像素的局部关系，但是打乱顺序以后，这些像素间的关系将无法得到利用。

二、CIFAR10 数据集分类

 

 定义网络，损失函数和优化器：

 

 

 

从测试集中取出8张图片：

 

 

把图片输入模型，看看CNN把这些图片识别成什么：

 

 

 出现识别错误

 

 

 

准确率还可以，通过改进网络结构，性能还可以进一步提升。

三、使用 VGG16 对 CIFAR10 分类

 

 

 

因为出现了报错，所以改了一些参数，把2048改成了512，把10改成了200