(23)tensorflow进阶之激活函数的导数

激活函数导数

Sigmoid 函数导数

导数为:
S i g m o i d ( 1 − S i g m o i d ) Sigmoid(1 − Sigmoid) Sigmoid(1−Sigmoid)

ReLU 函数导数

在这里插入图片描述

LeakyReLU函数导数

在这里插入图片描述

Tanh 函数梯度

导数为：

1 − t a n h 2 ( x ) 1 − tanh^2(x) 1−tanh2(x)

posted @ 2020-09-30 14:54  kuanleung  阅读(13)  评论(0)    收藏  举报  来源