不积跬步,无以至千里;不积小流,无以成江海。——荀子

  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2020年5月31日

摘要:当我们在训练一个神经网络的时候,参数的随机初始化是非常重要的,对于逻辑回归来说,把参数初始化为0是很ok的。但是对于一个神经网络,如果我们将权重或者是所有参数初始化为0,梯度下降算法将不会起到任何作用。 1.为什么逻辑回归参数初始化为0是ok的? 下图所示,是logistic回归的图解: 假设我们用 阅读全文
posted @ 2020-05-31 23:25 hejunlin 阅读(1059) 评论(0) 推荐(0) 编辑