摘要: (1)Xavier初始化权重:让权重满足0均值,方差为2 / (fan_in+fan_out),分布可以用均匀分布或高斯分布。 以均匀分布为例:均匀分布方差D(x)=(b-a)2 / 12。具体推导查书吧。 fan_in为输入节点,fan_out为输出节点。 a,b都是fan_in,fan_out的 阅读全文
posted @ 2017-07-14 16:35 eclipSycn 阅读(188) 评论(0) 推荐(0) 编辑