多层感知机

多层感知机

激活函数及其选择

1.relu(大于0梯度为1,小于等于0梯度为0)

2.sigmoid(可以将元素值变为0到1)


3.tanh(可以将元素值变为-1到1)

激活函数的选择

relu只能用于隐藏层
sigmoid,tanh存在数值过大或者过小梯度消失的问题,但sigmoid函数用于二分类效果好

posted @ 2020-03-04 17:46  hi_yuri  阅读(177)  评论(0编辑  收藏  举报