简单CNN的基本网络元素及其设计原则

0 数据预处理

　　归一化

　　分块

1 权重和偏置初始化

　　高斯分布截断抽取，方差选择

　　全0初始化偏置

2 卷积层结构

　　卷积核

　　步长

　　特征层

　　激活函数

　　卷积层数

3 池化层结构

　　是否池化

　　池化核

　　步长

　　重叠池化

4 全连接层结构

　　FC层数

　　节点数

　　激活函数

　　dropout过拟合抑制

5 输出层和训练方式

　　分类输出：softmax

　　cost function：交叉熵

　　训练算法：随机梯度下降（tf动量），反向传播