摘要: 做dl也有一段时间了,积累了一些经验,也在网上看到一些别人的经验。 为了面试,结合知乎上面的问答,我也总结了一下,欢迎大家补充。 知乎 深度学习调参有哪些技巧? 一. 初始化 有人用normal初始化cnn的参数,最后acc只能到70%多,仅仅改成xavier,acc可以到98%。 二.从理解CNN 阅读全文
posted @ 2019-08-22 12:30 知识天地 阅读(1119) 评论(0) 推荐(0)
摘要: 原 十、如何选择神经网络的超参数 2017年08月18日 10:33:06 独孤呆博 阅读数 21041 版权声明:本文为博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。 本文链接:https://blog.csdn.net/dugudaibo/article 阅读全文
posted @ 2019-08-22 12:28 知识天地 阅读(1339) 评论(0) 推荐(0)
摘要: 本文转载自:https://zhuanlan.zhihu.com/p/24720954?utm_source=zhihu&utm_medium=social 转载请注明:炼丹实验室 之前曾经写过一篇文章,讲了一些深度学习训练的技巧,其中包含了部分调参心得:深度学习训练心得。不过由于一般深度学习实验, 阅读全文
posted @ 2019-08-22 12:28 知识天地 阅读(1165) 评论(0) 推荐(1)
摘要: 超参数(Hyper-Parameter)是困扰神经网络训练的问题之一,因为这些参数不可通过常规方法学习获得。 神经网络经典五大超参数: 学习率(Leraning Rate)、权值初始化(Weight Initialization)、网络层数(Layers) 单层神经元数(Units)、正则惩罚项(R 阅读全文
posted @ 2019-08-22 12:25 知识天地 阅读(593) 评论(0) 推荐(0)
摘要: 经常会被问到你用深度学习训练模型时怎么样改善你的结果呢?然后每次都懵逼了,一是自己懂的不多,二是实验的不多,三是记性不行忘记了。所以写这篇博客,记录下别人以及自己的一些经验。 Ilya Sutskever(Hinton的学生)讲述了有关深度学习的见解及实用建议: 获取数据:确保要有高质量的输入/输出 阅读全文
posted @ 2019-08-22 12:23 知识天地 阅读(916) 评论(0) 推荐(0)
摘要: 面对一个图像分类问题,可以有以下步骤: 1.建立一个简单的CNN模型,一方面能够快速地run一个模型,以了解这个任务的难度 卷积层1:卷积核大小3*3,卷积核移动步长1,卷积核个数64,池化大小2*2,池化步长2,池化类型为最大池化,激活函数ReLU。 卷积层2:卷积核大小3*3,卷积核移动步长1, 阅读全文
posted @ 2019-08-22 12:22 知识天地 阅读(775) 评论(0) 推荐(0)
摘要: 此篇文章是在原创教程这个栏目下,但实际上是一篇汇总整理文章。相信大家在做深度学习时对调参尤为无奈,经验不足乱调一通,或者参数太多无从下手,我也如此。希望通过此文汇总网上一些调参的经验方法,供大家参考。此文会对网上每一篇调参文章做简练的总结与提炼,以此为此文的组成单元,并附上原文的链接。如果遇到不对的 阅读全文
posted @ 2019-08-22 12:19 知识天地 阅读(5330) 评论(2) 推荐(0)
摘要: 作者:Captain Jack链接:https://www.zhihu.com/question/25097993/answer/127472322来源:知乎著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 我现在的工作内容主要就是使用CNN做CV任务. 干调参这种活也有两年时间 阅读全文
posted @ 2019-08-22 11:43 知识天地 阅读(243) 评论(0) 推荐(0)