2019年10月18日

LSTM细节

摘要: 为什么使用tanh? 为了克服梯度消失问题,我们需要一个二阶导数在趋近零点之前能维持很长距离的函数。tanh是具有这种属性的合适的函数。 为什么要使用Sigmoid? 由于Sigmoid函数可以输出0或1,它可以用来决定忘记或记住信息。 阅读全文

posted @ 2019-10-18 20:03 若流芳千古 阅读(184) 评论(0) 推荐(0)

导航