lstm bilstm gru 之间的区别

lstm和bilstm 之间的区别

lstm是97年提出，gru是14年提出。

***************************  https://www.cnblogs.com/syw-home/p/13233989.html   *****************************

bilstm是前后lstm和后向lstm的组合

bilstm  lstm建模存在一个问题，无法编码从后向前的信息，例如"这个餐厅脏的不行"，不行是修饰脏的程度，只有bilstm增加了反向的信息才能捕获到双向语义。

bilstm是前后lstm和后向lstm结合成bilstm。

 

 

 前向的lstm对依次输入的  我 爱  中国  得到的三个向量   h1  h2  h3,后向lstm依次输入的是中国  爱  我   依次得到的是k1  k2  k3，最后将前向和后向的隐向量进行拼接得到   [h1,k1],[h2,k2],[h3,k3]

 

 

**************************************************原文   https://blog.csdn.net/u012223913/article/details/77724621  *************************

lstm和gru区别

1 gru和lstm的性能在很多任务上差不多

2  gru参数更少，更容易收敛，但是在数据集上很大的情况下，lstm表达性能更好

3  从结果上来说，gru只有两个门，lstm有三个门，gru直接把hidden state 传给下一个单元，而lstm则用cell 把hidden state包装起来。