摘要: Inception 网络(Inception network) 在上节笔记中,你已经见到了所有的Inception网络基础模块。在本节笔记中,我们将学习如何将这些模块组合起来,构筑你自己的Inception网络。 Inception模块会将之前层的激活或者输出作为它的输入,作为前提,这是一个28×2 阅读全文
posted @ 2020-02-27 21:13 刘通1997 阅读(758) 评论(0) 推荐(0)
摘要: 谷歌 Inception 网络简介(Inception network motivation) 构建卷积层时,你要决定过滤器的大小究竟是1×1,3×3还是5×5,或者要不要添加池化层。而Inception网络的作用就是代替你来决定,虽然网络架构因此变得更加复杂,但网络表现却非常好,我们来了解一下其中 阅读全文
posted @ 2020-02-27 21:05 刘通1997 阅读(657) 评论(0) 推荐(0)
摘要: 网络中的网络以及 1×1 卷积(Network in Network and 1×1 convolutions) 在架构内容设计方面,其中一个比较有帮助的想法是使用1×1卷积。 也许你会好奇,1×1的卷积能做什么呢?不就是乘以数字么?听上去挺好笑的,结果并非如此,我们来具体看看。 过滤器为1×1,这 阅读全文
posted @ 2020-02-27 21:00 刘通1997 阅读(2562) 评论(0) 推荐(0)
摘要: 残差网络为什么有用?(Why ResNets work?) 为什么ResNets能有如此好的表现,我们来看个例子,它解释了其中的原因,至少可以说明,如何构建更深层次的ResNets网络的同时还不降低它们在训练集上的效率。 通常来讲,网络在训练集上表现好,才能在Hold-Out交叉验证集或dev集和测 阅读全文
posted @ 2020-02-27 20:54 刘通1997 阅读(843) 评论(0) 推荐(0)
摘要: 残差网络(Residual Networks (ResNets)) 非常非常深的神经网络是很难训练的,非常非常深的神经网络是很难训练的,非常非常深的神经网络是很难训练的,记住这句话! 因为存在梯度消失和梯度爆炸问题。 这节课我们学习跳跃连接(Skip connection),它可以从某一层网络层获取 阅读全文
posted @ 2020-02-27 20:51 刘通1997 阅读(512) 评论(0) 推荐(0)
摘要: 经典网络(Classic networks) 这节课,我们来学习几个经典的神经网络结构,分别是LeNet-5、AlexNet和VGGNet。 LeNet-5 首先看看LeNet-5的网络结构, 假设你有一张32×32×1的图片,LeNet-5可以识别图中的手写数字,比如像这样手写数字7。LeNet- 阅读全文
posted @ 2020-02-27 20:35 刘通1997 阅读(887) 评论(0) 推荐(0)
摘要: 为什么要探索发展史(实例分析)? 我们首先来看看一些卷积神经网络的实例分析,为什么要看这些实例分析呢? 上周我们讲了基本构建,比如卷积层、池化层以及全连接层这些组件。 事实上,过去几年计算机视觉研究中的大量研究都集中在如何把这些基本构件组合起来,形成有效的卷积神经网络。 最直观的方式之一就是去看一些 阅读全文
posted @ 2020-02-27 20:19 刘通1997 阅读(1004) 评论(0) 推荐(0)
摘要: 为什么使用卷积?(Why convolutions?) 我们来分析一下卷积在神经网络中如此受用的原因,然后对如何整合这些卷积,如何通过一个标注过的训练集训练卷积神经网络做个简单概括。和只用全连接层相比,卷积层的两个主要优势在于参数共享和稀疏连接,举例说明一下。 假设有一张32×32×3维度的图片,这 阅读全文
posted @ 2020-02-27 20:18 刘通1997 阅读(926) 评论(0) 推荐(0)
摘要: 构建全卷积神经网络的构造模块我们已经掌握得差不多了,下面来看个例子。 假设,有一张大小为32×32×3的输入图片,这是一张RGB模式的图片,你想做手写体数字识别。32×32×3的RGB图片中含有某个数字,比如7,你想识别它是从0-9这10个数字中的哪一个,我们构建一个神经网络来实现这个功能。 我用的 阅读全文
posted @ 2020-02-27 20:15 刘通1997 阅读(591) 评论(0) 推荐(0)
摘要: 池化层(Pooling layers) 除了卷积层,卷积网络也经常使用池化层来缩减模型的大小,提高计算速度,同时提高所提取特征的鲁棒性,我们来看一下。 先举一个池化层的例子,然后我们再讨论池化层的必要性。假如输入是一个4×4矩阵,用到的池化类型是最大池化(max pooling)。执行最大池化的树池 阅读全文
posted @ 2020-02-27 19:56 刘通1997 阅读(2149) 评论(0) 推荐(0)