摘要: GRU相比于LSTM只有两个门: import tensorflow as tf import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' assert tf.__version__.startswith('2.') # 设置相关底层配置 physical 阅读全文
posted @ 2020-10-16 23:56 山…隹 阅读(1247) 评论(0) 推荐(0)
摘要: 相比simplernn多了三个门,记忆、输入、输出 记忆门(遗忘门,1为记住0为遗忘): 输入门: C: 输出门: 总: 极端条件: 公式: import tensorflow as tf import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' asse 阅读全文
posted @ 2020-10-16 22:59 山…隹 阅读(2093) 评论(0) 推荐(0)
摘要: 原来的参数更新代码: 加一个Graddient Clipping后(原理是当梯度高于某个阈值时,自动除以自己的模来达到减小梯度的目的): 比如下图中设置梯度最大值为15 阅读全文
posted @ 2020-10-16 12:45 山…隹 阅读(359) 评论(0) 推荐(0)
摘要: import tensorflow as tf import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' assert tf.__version__.startswith('2.') # 设置相关底层配置 physical_devices = tf.con 阅读全文
posted @ 2020-10-16 11:18 山…隹 阅读(1182) 评论(0) 推荐(0)