2018年12月22日
进一步聊聊weight initialization
摘要： 深度学习模型训练的过程本质是对weight（即参数W）进行更新，这需要每个参数有相应的初始值。 阅读全文
posted @ 2018-12-22 12:48 侯凯 阅读(862) 评论(1) 推荐(0) 编辑
深度学习中Xavier初始化
摘要： “Xavier”初始化方法是一种很有效的神经网络初始化方法，方法来源于2010年的一篇论文《Understanding the difficulty of training deep feedforward neural networks》 阅读全文
posted @ 2018-12-22 12:47 侯凯 阅读(2542) 评论(0) 推荐(0) 编辑
范数及其应用
摘要： 范数在机器学习中的应用 阅读全文
posted @ 2018-12-22 12:45 侯凯 阅读(4398) 评论(0) 推荐(1) 编辑
机器学习中的损失函数
摘要： 着重介绍hige loss 和 softmax loss。 阅读全文
posted @ 2018-12-22 12:42 侯凯 阅读(1412) 评论(0) 推荐(0) 编辑