RNN循环神经网络结构

note: RNN处理有序的数据。例如一句话

 

一层双向的循环神经网络示意图（没有 S0' 则为单层循环）:

正向循环S0 到 Si：y1的值受X1,A1以及上一层的A0影响

反向循环Si 到 S0：y1的值受X1, A1'  以及下一层的 A2'  影响

他们两者之间并不共享权值。

多层双向循环构成深度循环神经网络