摘要：ResNet可以说是在过去几年中计算机视觉和深度学习领域最具开创性的工作。在其面世以后，目标检测、图像分割等任务中著名的网络模型纷纷借鉴其思想，进一步提升了各自的性能，比如yolo，Inception-v4等。 ResNet通过重构模型对残差映射（Residual mapping）进行拟合，而非以往那样拟合期望的潜在映射（Underlying mapping）。借助这一举措，R... 阅读全文

摘要：该笔记是我快速浏览论文后的记录，部分章节并没有仔细看，所以比较粗糙。从摘要中可以得知，论文提出在每次训练时通过随机忽略一半的feature detectors（units）可以极大地降低过拟合。该方法能够防止feature detectors之间的complex co-adaptations，即feature detectors只有在一些其它特定的feature detectors存在时才能发挥作... 阅读全文

摘要：该论文提出了一种新颖的深度网络结构，称为“Network In Network”(NIN)，以增强模型对感受野内local patches的辨别能力。与传统的CNNs相比，NIN主要的创新点在于结构内使用的mlpconv layers(multiple layer perceptron convolution layers)和global average pooling。下面先介绍二者:MLP C... 阅读全文

摘要：作者：Yann LeCun，Leon Botton， Yoshua Bengio，and Patrick Haffner这篇论文内容较多，这里只对部分内容进行记录：以下是对论文原文的翻译：在传统的模式识别模型中，往往会使用手动设计的特征提取器从输入中提取相关信息并去除不相关的可变性，然后一个可训练的分类器对这些提取到的特征进行分类。在本论文的方案中，标准的全连接多层网络就相当于分类器，并且该方案尽... 阅读全文

摘要：该论文是深度学习领域的经典之作，因为自从Alex Krizhevsky提出AlexNet并使用GPUs大幅提升训练的效率之后，深度学习在图像识别等领域掀起了研究使用的热潮。在论文中，作者训练了一个含有60 million个参数和650000个神经元的深度卷积神经网络对ImageNet LSVRC-2010中1.2million个高分辨率彩色图像进行分类，最终取得出色的结果。在论文中作者详细描述了网... 阅读全文