摘要: "github博客传送门" "csdn博客传送门" 神经网络中激活函数的真正意义?一个激活函数需要具有哪些必要的属性?还有哪些属性是好的属性但不必要的? 1. 非线性: 即导数不是常数。这个条件是多层神经网络的基础,保证多层网络不退化成单层线性网络。这也是激活函数的意义所在。 2. 几乎处处可微: 阅读全文
posted @ 2018-12-26 19:30 账号 阅读(1532) 评论(0) 推荐(0) 编辑
摘要: "github博客传送门" "csdn博客传送门" 什么样的数据集不适合用深度学习? 1. 数据集太小,数据样本不足时,深度学习相对其它机器学习算法,没有明显优势。 2. 数据集没有局部相关特性,目前深度学习表现比较好的领域主要是图像/语音/自然语言处理等领域,这些领域的一个共性是局部相关性。图像中 阅读全文
posted @ 2018-12-26 19:23 账号 阅读(1613) 评论(0) 推荐(0) 编辑
摘要: "github博客传送门" "csdn博客传送门" 什么是fine tuning? 在实践中,由于数据集不够大,很少有人从头开始训练网络。常见的做法是使用预训练的网络(例如在ImageNet上训练的分类1000类的网络)来重新fine tuning(也叫微调),或者当做特征提取器。 以下是常见的两类 阅读全文
posted @ 2018-12-26 19:19 账号 阅读(1375) 评论(0) 推荐(1) 编辑