深度学习/花书:第十章(序列建模：循环和递归网络)

一：主要流程
在这里插入图片描述
二：为什么需要序列模型？
在这里插入图片描述
三：网络记忆能力

在RNN出现前，一些具有记忆能力的网络：
1）TDNN
在这里插入图片描述
2）自回归模型
在这里插入图片描述
四：循环神经网络
在这里插入图片描述
五：循环神经网络的计算图
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
六：序列模型解决的问题
在这里插入图片描述
七：BPTT（随时间反向传播）—重点
在这里插入图片描述

在这里插入图片描述

1）前向传播
在这里插入图片描述
2）反向传播

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

八：双向循环神经网络
在这里插入图片描述
九：长期依赖的挑战
在这里插入图片描述

在这里插入图片描述
十：LSTM
在这里插入图片描述

在这里插入图片描述

十一：GRU
在这里插入图片描述

在这里插入图片描述

posted @ 2020-09-02 20:45  小小新一枚  阅读(10)  评论(0)    收藏  举报  来源