2018年12月8日

随机梯度下降批尺寸的影响

摘要: 随机梯度下降批尺寸有什么影响呢??? 当数据量足够大的时候可以适当的减小batch_size,由于数据量太大,内存不够。但盲目减少会导致无法收敛,batch_size=1时为在线学习, 也是标准的SGD,这样学习,如果数据量不大,noise数据存在时,模型容易被noise带偏,如果数据量足够大,no 阅读全文

posted @ 2018-12-08 20:24 那抹阳光1994 阅读(399) 评论(0) 推荐(0)

导航