2019年10月12日

模型调参
摘要： （一）训练集loss不下降 1. 初始化方案有问题 神经网络在训练之前，我们需要给其赋予一个初值，常用的初始化方案有全零初始化、随机正态分布初始化和随机均匀分布初始化等。 建议无脑xaiver normal初始化或者 he normal /xavier用在权重初始化上，constant用在偏置初始化 阅读全文
posted @ 2019-10-12 14:58 happygril3 阅读(560) 评论(0) 推荐(0)

导航