统计学习方法——卷积神经网络(CNN)

 

　　https://blog.csdn.net/qq_25762497/article/details/51052861  详解卷积神经网络（CNN）

 

　　https://www.cnblogs.com/infaraway/p/8523341.html           经典卷积神经网络 （LeNet、AlexNet、VGG、GoogleNet、ResNet）的实现（MXNet版本）

 

　　http://zh.gluon.ai/chapter_preface/preface.html  动手深度学习

 

　　https://www.zhihu.com/question/293996867       2018年了，MXNet 发展的如何了？

 

　　https://blog.csdn.net/drilistbox/article/details/79368008　    深度学习基础模型算法原理及编程实现--05.卷积神经网络

　　神经网络原理演示动画合集

　　深度学习之PyTorch实战（1）——基础学习及搭建环境

 

常用深度学习框架：

半夜刷到这个问题，感觉还挺有意思的，还好手上留着今年cvpr跟eccv的论文集，仿照高票答案不精确地search了下几个主流框架的状况(雾)，关于mxnet可以直接拉到最后。

pytorch: eccv+117，cvpr+93。个人最偏爱的框架之一，开发调试模型的体验如丝般顺滑，开发社区也保持着非常高的活跃度，也很善于听取开发者的吐槽进行版本更新，例如某Variable和Tensor的合并等。

pytorch commits trends

tensorflow: eccv+116，cvpr+134。虽然tensorflow一直被吐槽自创的Graph, Session, Variable, placeholder等概念就卡掉了一部分人，然而实际上手之后还是能满足大多数人实验需求的；加上完善的model zoo以及AlphaZero等RL项目的开源，在很多RL task上也是首选的框架；另外在github commits上看也是保持着极高的活跃度。

tensorflow commits trends

caffe: eccv+60，cvpr+102。夕阳红框架，在github社区基本已经成为偶尔有commits冒个泡的项目。他的优点在于，大部分源码已经被社区解析的十分详细，并且在很多大厂里也经过了长时间的深度优化，仍然能满足很大部分模型开发的需求。

caffe commits trends

caffe2: eccv+5，cvpr+5。愚人节后被战略性合入pytorch项目中，在学术圈仍然活跃的部分原因要得益于mask-rcnn, non-local net等开源项目了，作为caffe的老用户，始终觉得yangqing错过了caffe2最好的开发时机。

caffe2 commits trends

mxnet: eccv+8，cvpr+8。对mxnet的特殊性，一部分在于他是在国内开发社区中诞生的；从dmlc/cxxnet到后来的apache孵化项目，mxnet一直保持着易用/高性能的特点。去年开始参照chainer和pytorch推出了gluon wrapper，最近配套策划了gluon-cv和gluon-nlp项目，再加上一些国内开发者开源的项目，例如insightface和gluon-reid等等。相对于pytorch和tensorflow，目前mxnet仍然属于较小众的框架，但在主打gluon wrapper之后，mu神的公开课以及对应的tutorial在一些初学者中反响还不错，可以期待会有更多开发者加入。

mxnet commits trends

总体而言，不管是mxnet还是其他框架，目前对于学界比较重要的是高质量开源项目的数量，以及保持适当频率的feature更新；

而对于业界，大厂一般已经有一套相对成熟的分布式框架，小厂可以考虑基于tensorflow，mxnet以及caffe2等进行搭建。