随笔分类 -  深度学习入门

深度学习笔记
摘要:我们看看深度学习模型是如何处理文本的,比方说我们做文本分类,文本内容是政治、商业还是科学? 阅读全文
posted @ 2017-02-26 22:20 CusterFun 阅读(173) 评论(0) 推荐(0)
摘要:到目前为止,我们已经大致地介绍了一些新网络 但是,如果你对数据已有一些了解,比如它是一张图片,或者一系列事物,你可以做得更好 颜色 想法非常简单,如果你的数据是某种结构,则你的网络没有必要从零开始学习结构,它会表现得更好 例如,假设你想尝试分类这些字母,你知道颜色并不是让A成为A的重要因素 你认为怎 阅读全文
posted @ 2017-02-26 16:19 CusterFun 阅读(1077) 评论(0) 推荐(0)
摘要:简介 前面,针对图片训练了简单的逻辑分类器,现在,我们会将该分类器转变为深度网络 只需要几行代码就能搞定,所以一定要确保十分理解之前的内容。 在第二部分,将简单地介绍如何完全通过优化器计算任意函数的斜率 第三部分,将学习一个重要的概念 即规则化,通过规则化我们能够训练更加庞大的模型 参数的数量 目前 阅读全文
posted @ 2017-01-25 15:08 CusterFun 阅读(1197) 评论(0) 推荐(0)
摘要:training set 训练集 validation set 验证集 test set测试集 这些与衡量你做的怎么样有关 当你知道怎么衡量你在一个问题的表现,问题就解决了一半。(衡量表现的重要性) 每个你将建立的分类器都会尝试记住训练集,并且它通常在这方面会做的很好很好 你的工作 是帮助它泛化到新 阅读全文
posted @ 2017-01-25 11:57 CusterFun 阅读(11067) 评论(0) 推荐(2)
摘要:我们想要让涉及在损失函数计算中值不要太大或太小 一个好的指导原则是 我们总是想要我们的变量 均值为零 并且尽可能同方差 除了上面说的数值精度问题,当你在做最优化时,也有很好的数学理论让你保持你计算的值,具有均值为零与同方差的性质 在不理想的条件下意味着优化器得做很多搜索去找到一个好的解,如上左图 在 阅读全文
posted @ 2017-01-22 16:48 CusterFun 阅读(935) 评论(0) 推荐(0)
摘要:softmax模型可以用来给不同的对象分配概率。即使在之后,我们训练更加精细的模型时,最后一步也需要用softmax来分配概率。 cross-entropy 交叉熵是度量这两个向量距离的方法之一。我们将记它为D以表示距离。 labels标签向量经过了one-hot编码,所以会有很多的零,因而它不能作 阅读全文
posted @ 2017-01-22 15:56 CusterFun 阅读(2665) 评论(0) 推荐(0)
摘要:这个课程分为4个部分,首先需要彻底通过 端对端 的方法来训练第一个简单模型,这样才能打好基础,为此,将讨论 逻辑分类、随机优化,和关于训练模型的通用数据实践。 下一步训练第一个深度网络,也将学到利用正则化技术去训练更大的模型,第三部分,将深入介绍图像和卷积模型,第四部分,是关于一般的文本和序列,我们 阅读全文
posted @ 2017-01-22 08:43 CusterFun 阅读(470) 评论(0) 推荐(0)