凯鲁嘎吉
用书写铭记日常,最迷人的不在远方

卷积神经网络CNN

作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/

        卷积神经网络(Convolutional Neural Network,CNN 或ConvNet)是一种具有局部连接、权重共享等特性的深层前馈神经网络。卷积神经网络最早主要是用来处理图像信息。在用全连接前馈网络来处理图像时,会存在以下两个问题:(1)参数太多,(2)局部不变性特征。

        卷积神经网络是受生物学上感受野机制的启发而提出的。感受野(Receptive Field)机制主要是指听觉、视觉等神经系统中一些神经元的特性,即神经元只接受其所支配的刺激区域内的信号。在视觉神经系统中,视觉皮层中的神经细胞的输出依赖于视网膜上的光感受器。视网膜上的光感受器受刺激兴奋时,将神经冲动信号传到视觉皮层,但不是所有视觉皮层中的神经元都会接受这些信号。一个神经元的感受野是指视网膜上的特定区域,只有这个区域内的刺激才能够激活该神经元。

        目前的卷积神经网络一般是由卷积层、汇聚层和全连接层交叉堆叠而成的前馈神经网络。卷积神经网络有三个结构上的特性:局部连接、权重共享以及汇聚。这些特性使得卷积神经网络具有一定程度上的平移、缩放和旋转不变性。和前馈神经网络相比,卷积神经网络的参数更少。

        本博文主要考古了卷积神经网络,重点考古了卷积与互相关的区别与联系,池化操作,以及几种典型的卷积神经网络:LeNet-5(详细介绍每层参数由来),AlexNet与VGG。

1. 全连接前馈神经网络存在的问题以及卷积神经网络的引入

2. 卷积、互相关与池化

3. LeNet-5

4. AlexNet

5. VGG

6. 参考文献

[1] 邱锡鹏,神经网络与深度学习,机械工业出版社,https://nndl.github.io/, 2020.

[2] https://courses.cs.duke.edu//spring21/compsci527/notes/n_01_convolution.pdf

[3] https://www.ocean.washington.edu/courses/ess522/lectures/08_xcorr.pdf

[4] https://deeplearning.cs.cmu.edu/S20/document/slides/lec9.CNN.pdf

[5] Zhang, Aston and Lipton, Zachary C. and Li, Mu and Smola, Alexander J., Dive into Deep Learning, arXiv preprint arXiv:2106.11342, 2021.

作者:凯鲁嘎吉
出处:http://www.cnblogs.com/kailugaji/
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须在文章页面给出原文链接,否则保留追究法律责任的权利。
posted on 2021-09-10 16:45  凯鲁嘎吉  阅读(174)  评论(0编辑  收藏  举报