2019年11月21日
网络权重初始化方法总结（下）：Lecun、Xavier与He Kaiming
摘要： [TOC] 博客： "blog.shinelee.me" | "博客园" | "CSDN" 权重初始化最佳实践 书接上回，全0、常数、过大、过小的权重初始化都是不好的，那我们需要什么样的初始化？ 因为对权重$w$的大小和正负缺乏先验，所以应初始化 在0附近 ，但不能为全0或常数，所以要有一定的 随机 阅读全文
posted @ 2019-11-21 21:42 shine-lee 阅读(12504) 评论(1) 推荐(11) 编辑