《Deep Residual Learning for Image Recognition》论文笔记

Abstruct

　　网络越深越难以训练，该论文设计了一个残差学习框架去训练更深的网络结构。

1.Introduction（现象-抽象问题-解决办法|是什么-为什么-怎么办）

　　随着网络的加深，会出现两个问题，1.梯度消失 2.训练精度降低 。对第一个问题解决的方法是归一化处理和中间归一层。

2.Related Work

　　残差表示

　　短连接

3.Deep Residual Learning 

　　3.1. Residual Learning

　　　　F(x)+x

　　3.2. Identity Mapping by Shortcuts

　　　　y=F(x,{w_i})+x.

　　　　y=F(x,{wi})+W_sx.

　　3.3. Network Architectures

　　3.4. Implementation

4.Experiments

　　4.1. ImageNet Classification