2018年3月16日
tflearn 保存模型重新训练
摘要： from：https://stackoverflow.com/questions/41616292/how-to-load-and-retrain-tflean-model This is to create a graph and save it To reload and retrain or 阅读全文
posted @ 2018-03-16 15:32 bonelee 阅读(4320) 评论(0) 推荐(1)
理解dropout——本质是通过阻止特征检测器的共同作用来防止过拟合 Dropout是指在模型训练时随机让网络某些隐含层节点的权重不工作，不工作的那些节点可以暂时认为不是网络结构的一部分，但是它的权重得保留下来（只是暂时不更新而已），因为下次样本输入时它可能又得工作了
摘要： 理解dropout from:http://blog.csdn.net/stdcoutzyx/article/details/49022443 http://www.cnblogs.com/tornadomeet/p/3258122.html 开篇明义，dropout是指在深度学习网络的训练过程中， 阅读全文
posted @ 2018-03-16 15:05 bonelee 阅读(730) 评论(1) 推荐(0)
正则化方法：L1和L2 regularization、数据集扩增、dropout
摘要： 正则化方法：L1和L2 regularization 本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充） 正则化方法：防止过拟合，提高泛化能力 在训练数据不够多时，或者overtraini 阅读全文
posted @ 2018-03-16 10:25 bonelee 阅读(5440) 评论(0) 推荐(0)
如何估算深度神经网络的最优学习率
摘要： 学习率如何影响训练？ from:https://www.jiqizhixin.com/articles/2017-11-17-2 深度学习模型通常由随机梯度下降算法进行训练。随机梯度下降算法有许多变形：例如 Adam、RMSProp、Adagrad 等等。这些算法都需要你设置学习率。学习率决定了在一 阅读全文
posted @ 2018-03-16 09:33 bonelee 阅读(4659) 评论(0) 推荐(0)
机器学习算法中如何选取超参数：学习速率、正则项系数、minibatch size
摘要： 机器学习算法中如何选取超参数：学习速率、正则项系数、minibatch size 本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习算法中，如何选取初始的超参数的值。（本文会不断补充） 学习速率（learning rate，η） 运用梯度下 阅读全文
posted @ 2018-03-16 09:27 bonelee 阅读(10773) 评论(3) 推荐(1)