摘要: 最近应用pca时遇到一个问题:自己写的pca过程和调用sklearn中的pca最后得到转换空间后的矩阵总有负号差异,后来通过读源码,常识,发现了问题原因: 简单说一下pca的实现,首先对于一个矩阵X,我们计算X·XT,显然这个一个半正定矩阵,可以做特征值分解,然后取出k个最大的特征值及其对应的特征向 阅读全文
posted @ 2018-08-22 19:00 深海里的猫 阅读(3061) 评论(1) 推荐(0)
摘要: 梯度下降是一个用来求函数最小值的算法,我们将使用梯度下降算法来求出代价函数 J(θ0,θ1) 的最小值。 梯度下降背后的思想是:开始时我们随机选择一个参数的组合(θ0,θ1,...,θn),计算代价 函数,然后我们寻找下一个能让代价函数值下降最多的参数组合。我们持续这么做直到到到 一个局部最小值(l 阅读全文
posted @ 2018-07-12 23:58 深海里的猫 阅读(329) 评论(0) 推荐(0)
摘要: 接着上文02的问题阐述代价函数(也叫做损失函数) 我们将定义代价函数的概念,这有助于我们弄清楚如何把最有可能的直线与我们的数据相拟合。如图: 在线性回归中我们有一个像这样的训练集,m 代表了训练样本的数量,比如 m = 47。 而我们的假设函数,也就是用来进行预测的函数,是这样的线性函数形式:h 。 阅读全文
posted @ 2018-07-12 16:00 深海里的猫 阅读(515) 评论(0) 推荐(0)
摘要: 我们的第一个学习算法是线性回归算法。 让我们通过一个例子来开始:这个例子是预测住房价格的,我们要使用一个数据集,数据集包含某市的住房价格。在这里,我要根据不同房屋尺寸所售出的价格,画出我的数据集。比方说,如果你朋友的房子是 1250 平方尺大小,你要告诉他们这房子能卖多少钱。那么,你可以做的一件事就 阅读全文
posted @ 2018-07-12 15:29 深海里的猫 阅读(150) 评论(0) 推荐(0)
摘要: 从这篇随笔开始是观看斯坦福大学(吴恩达)机器学习课程,个人觉得课程讲的非常棒,也很容易理解,特此总结知识点笔记。笔记如下: 我们应用学习算法,可以在这组数据中画一条直线,或者换句话说,拟合一条直线,根 据这条线我们可以推测出,这套房子可能卖$150, 000,当然这不是唯一的算法。可能还有更 好的, 阅读全文
posted @ 2018-07-11 23:34 深海里的猫 阅读(318) 评论(0) 推荐(0)
摘要: 1、对于字符“welcome to weibo”以单词的形式进行逆转“weibo to welcome” 思路:对于英文单词 字句一般都是以空格分开,所以直接用空格拆分单词,再逆转(对于不知道数组长度的字符可以len()求的分割后的数组长度) 2、输入字符A、B、C、/d、/d、E、F、/d, 其中 阅读全文
posted @ 2018-07-09 15:24 深海里的猫 阅读(153) 评论(0) 推荐(0)
摘要: 给定两个有序数组,求其中位数的算法 中位数定义:如果元素个数为奇数,则中位数为数组中间的那个数;如果数组元素个数为偶数,则中位数为中间两个数的平均数 求解方法一(归并求解): 阅读全文
posted @ 2018-07-06 20:31 深海里的猫 阅读(2045) 评论(0) 推荐(0)
摘要: 排序算法经常会被问到 总结如下: 2 冒泡排序(也叫起泡法) 冒泡法:第一趟:相邻的两数相比,大的往下沉。最后一个元素是最大的。 第二趟:相邻的两数相比,大的往下沉。最后一个元素不用比。 时间复杂度:O(n^2) 稳定性:稳定 3 简单选择排序 时间复杂度:O(n^2) 稳定性:不稳定 4 直接插入 阅读全文
posted @ 2018-07-06 14:19 深海里的猫 阅读(230) 评论(0) 推荐(0)