随笔分类 -  机器学习

摘要:在学习了吴恩达老师的单隐层神经网络之后,用python编写了一个单隐层神经网络 "(github链接)" 在实际应用发现神经网络的参数很多,之间存在耦合关系,在这里总结一些自己的经验。 测试样例 首先说一下自己的测试样例。我的测试样例有两组,都是二分类问题。第一组,由中心在(1,1)和(2,2),方 阅读全文
posted @ 2017-12-11 21:48 上官栋 阅读(1321) 评论(0) 推荐(0) 编辑
摘要:和一位学长交谈之后,认识到深度学习是一个快速发展的领域,仅仅靠着几本书是远远不行的,应该关注前沿。但新入门的小伙伴往往根本不知道怎么上手,结合学长的推荐和我自己的经验,在这里将一些好的学习资料推荐给大家。这里我重点关注视觉方面的深度学习。 机器学习 作为深度学习的基础,机器学习是必须掌握的。这方面我 阅读全文
posted @ 2017-11-26 11:34 上官栋 阅读(320) 评论(0) 推荐(0) 编辑
摘要:  首先推荐一篇博客, "奇异值分解(SVD)原理详解及推导 CSDN博客 " ,讲解的很清楚。这里我谈谈自己的理解,方便以后回顾。   如果把向量理解为空间中的一个元素,那么矩阵可以理解为两个空间上的映射。在线性代数中我们常见的是正交变换,这种变换不会改变向量之间的夹角,可以用 阅读全文
posted @ 2017-11-20 20:42 上官栋 阅读(802) 评论(0) 推荐(0) 编辑
摘要:在学习李航老师的《统计学习方法》中,我用Python编写了SVM的SMO算法。但在编写完成后发现目标函数总是停留在某一个值不再下降,仔细调试发现,每次选择变量时总是选择同一变量,虽然按照计算可以找到使目标函数下降的新值,但是被范围限制约束后又变回之前的值。所以算法总是在这个值上循环。我修改算法,迫使 阅读全文
posted @ 2017-11-13 09:23 上官栋 阅读(733) 评论(0) 推荐(0) 编辑
摘要:在分类和聚类运算中我们经常计算两个个体之间的距离,对于连续的数字(Numric)这一点不成问题,但是对于名词性(Norminal)的类别,计算距离很难。即使将类别与数字对应,例如{‘A’,‘B’,‘C’}与[0,1,2]对应,我们也不能认为A与B,B与C距离为1,而A与C距离为2。独热编码正是为了处 阅读全文
posted @ 2017-11-01 16:48 上官栋 阅读(10900) 评论(0) 推荐(0) 编辑