大师兄的博客

摘要： GoogLeNet深度卷积神经网络结构，及其后续变种Inception-V1、Inception-V2-Inception-V3、Inception-V4。 使用Inception模块，引入并行结构和不同尺寸的卷积核，提取不同尺度的特征，将稀疏矩阵聚合为较为密集的子矩阵，大大提高计算效率，降低参数数量。加入辅助分类器，实现了模型整合、反向传播信号放大。 GoogLeNet在ILSVRC-2014图像分类竞赛中获得了top-5误差6.7%的冠军成绩。 阅读全文

摘要： 纽约大学ZFNet，2013年ImageNet图像分类竞赛冠军模型。提出了一系列可视化卷积神经网络中间层特征的方法，并巧妙设置了对照消融实验，从各个角度分析卷积神经网络各层提取的特征及对变换的敏感性。 使用反卷积，将中间层feature map投射重构回原始输入像素空间，便于可视化每个feature map捕获的特征。 改进AlexNet模型，减小卷积核尺寸，减小步长，增加卷积核，提出ZFNet。 阅读全文

摘要： 1. 前言 zfnet在他们可视化的时候，利用到了《Zeiler, M., Taylor, G., and Fergus, R. Adaptive deconvolutional networks for mid and high level featurelearning. In ICCV, 20 阅读全文

摘要： 1. 前言 AlexNet是一个深度卷积神经网络模型，由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton于2012年设计。这个模型在ImageNet图像识别挑战赛中获得了当时的冠军，并推动了卷积神经网络在计算机视觉中的广泛应用。 AlexNet包括5个卷积 阅读全文

摘要： 1.理解 设总体有分布 $f(x;\theta_1,\cdots,\theta_k), X_1,\cdots,X_n$ 为自这个总体总抽出的样本，则样本$(X_1,\cdots,X_n)$ 的分布（即其概率密度函数或概率函数）为 $$ f(x_1;\theta_1,\cdots,\theta_k)f 阅读全文

摘要： 旷视轻量化卷积神经网络ShuffleNet V2 ECCV 2018论文：ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design 通过大量实验提出四条轻量化网络设计准则，对输入输出通道、分组卷积组数、网络碎片化程度、逐元素操作对不同硬件上的速度和内存访问量MAC的影响进行了详细分析。 提出ShuffleNet V2模型，通过Channel Split替代分组卷积，满足四条设计准则，达到了速度和精度的最优权衡。 阅读全文

摘要： 旷视轻量化卷积神经网络ShuffleNet V1。 通过group pointwise convolution分组1x1卷积和channel shuffle通道重排操作，降低参数量和计算量，扩增卷积核个数。 阅读全文

摘要： 谷歌轻量化卷积神经网络Mnasnet，介于MobileNet V2和V3之间。 CVPR2019论文：Mnasnet: Platform-aware neural architecture search for mobile 使用多目标优化的目标函数，兼顾速度和精度，其中速度用真实手机推断时间衡量。 提出分层的神经网络架构搜索空间，将卷积神经网络分解为若干block，分别搜索各自的基本模块，保证层结构多样性。 阅读全文

摘要： 谷歌轻量化卷积神经网络MobileNet V2，用于移动端实时边缘计算部署。 构建先升维后降维，在降维时使用线性激活函数，带残差的Inverted bottleck模块，防止ReLU信息丢失。 在图像分类、目标检测、语义分割等任务上实现了网络轻量化、速度和准确度的权衡。 阅读全文

摘要： MobileNet V1是谷歌2017年提出的轻量化卷积神经网络，用于在移动端、边缘终端设备上进行实时边缘计算和人工智能推理部署。 使用深度可分离卷积Depthwise Separable Convolution，在保证准确度性能的基础上，将参数量、计算量压缩为标准卷积的八到九分之一。引入网络宽度超参数和输入图像分辨率超参数，进一步控制网络尺寸。 在ImageNet图像分类、Stanford Dog细粒度图像分类、目标检测、人脸属性识别、人脸编码、以图搜地等计算机视觉任务上，结合知识蒸馏进行评估，MobileNet表现出极致的轻量化和速度性能。 阅读全文