摘要: 0、循环神经网络 (Recurrent Neural Network) 每一步的参数W是固定的 当前隐状态包含了所有前面出现的单词信息 对于RNN,如何训练Train: ①:每一时刻的输出误差Et都有之前所有时刻的隐状态ht有关,因此是求和符号 ②:对于隐状态之间的求导,链式法则的使用会出现,WR的 阅读全文
posted @ 2020-08-15 21:36 kkzhang 阅读(1644) 评论(0) 推荐(0)