吴恩达神经网络与深度学习——深度学习引言

一、深度学习引言

1. 应用

　　对于图像应用，我们经常在神经网络上使用卷积（Convolutional Neural Network），通常缩写为CNN。对于序列数据，例如音频，语言，英语和汉语字母表或单词，作为一维时间序列（两种英文说法one-dimensional time series / temporal sequence）经常使用RNN，一种递归神经网络（Recurrent Neural Network）。

　　　　　　　　　　　　　　

　　　　　　　　　　　　　　　　　　　　标准神经网络　　　　　　　　　　　　　　　　　　卷积神经网络　　　　　　　　　　　　　　　递归神经网络

• 普通预测——标准神经网络
• 图像领域——卷积神经网络
• 音频识别、序列数据——递归神经网络
• 无人驾驶——复杂的混合神经网络

2. 数据　　　

• 结构化数据：明确的数字化数据集，表征某些特征，可存储为数据库文档
• 非结构化数据：音频。图像、视频、像素值等格式数据

3. 性能特点

　　最可靠的方法来在神经网络上获得更好的性能，往往就是要么训练一个更大的神经网络，要么投入更多的数据

• 数据集小的情况下，性能与神经网络算法的优先级无关，与数据集有关
• 当存在数量非常庞大的数据集，神经网络规模越大，性能越好

4. 流程

构建一个深度学习的流程是首先产生Idea，然后将Idea转化为Code，最后进行Experiment。接着根据结果修改Idea，继续这种Idea->Code->Experiment的循环，直到最终训练得到表现不错的深度学习网络模型