摘要: 4. 激活函数 激活函数是用来加入非线性因素的,因为线性模型的表达能力不够。引入非线性激活函数,可使深 层神经网络的表达能力更加强大。 优秀的激活函数: 非线性:激活函数非线性时,多层神经网络可逼近所有函数 可微性:优化器大多用梯度下降算法更新参数 单调性:当激活函数是单调的,能保证单层神经网络的损 阅读全文
posted @ 2021-01-22 21:16 xxlzx 阅读(203) 评论(1) 推荐(0)