摘要： 有一个带标签的数据集X，标签为y。我们想通过这个数据集预测目标点x0的所属类别。 K近邻算法是指在X的特征空间中，把x0放进去，然后找到距离x0最近的K个点。通过这K个点所属类别，一般根据少数服从多数的原则，这K个点哪个类别多，就将x0设为哪一类。 关键有三个部分： 1.距离度量：目标点与训练集中的 阅读全文

摘要： 感知器学习的目标是求得一个能够将训练集正实例点和负实例点·完全正确分开的分离超平面。即找到这超平面的参数w,b。 超平面定义 w*x+b=0 其中w是参数，x是数据。公式很好理解以二维平面为例，w有两个参数x0,x1。确定其中一个参数x0就可以确定另一个参数x1所以，二维中超平面w*x+b=0就是一 阅读全文

摘要： 国内博客，上介绍实现的K-medodis方法为： 与K-means算法类似。只是距离选择与聚类中心选择不同。 距离为曼哈顿距离 聚类中心选择为：依次把一个聚类中的每一个点当作当前类的聚类中心，求出代价值最小的点当作当前聚类中心。 维基百科上，实现的方法为PAM算法。 分成K类，把每个点都尝试当作聚类 阅读全文

摘要： K-modes算法主要用于分类数据，如 国籍，性别等特征。 距离使用汉明距离，即有多少对应特征不同则距离为几。 中心点计算为，选择众数作为中心点。 主要功能： 随机初始化聚类中心，计算聚类。 选择每次聚类次数，选择最佳聚类初始化。 kmodes.m代码 Main.m 执行Main.m，返回聚类的代价 阅读全文

摘要： 拐点图，最佳聚类数目，随机初始化聚类中心 阅读全文

摘要： 监督学习： 线性回归，逻辑回归，神经网络，支持向量机。 非监督学习： K-means，PCA，异常检测 应用： 推荐系统，大规模机器学习 机器学习系统优化： 偏差/方差，正则化，下一步要进行的工作：评估学习算法（精确率，召回率），学习曲线，错误分析，上限分析 1. 监督学习 1.1 线性回归 假设函 阅读全文

摘要： 作业文件 machine-learning-ex8 在本次练习，第一节我们将实现异常检测算法，并把它应用到检测网络故障服务器上。在第二部分，我们将使用协同过滤来构建电影推荐系统。 1. 异常检测 在这节练习，我们将实现一个异常检测算法来检测服务器电脑异常行为。特征衡量的是每个服务器的吞吐量和延迟。当 阅读全文

摘要： 作业文件 machine-learning-ex7 1. K-means聚类 在这节练习中，我们将实现K-means聚类，并将其应用到图片压缩上。我们首先 从二维数据开始，获得一个直观的感受K-means算法是如何工作的。之后我们将K-means算法应用到图片压缩上，通过减少出现在图片上的颜色的数量 阅读全文

摘要： 作业： machine-learning-ex6 1. 支持向量机（Support Vector Machines） 在这节，我们将使用支持向量机来处理二维数据。通过实验将会帮助我们获得一个直观感受SVM是怎样工作的。以及如何使用高斯核（Gaussian kernel ）。下一节我们将使用SVM建立 阅读全文

摘要： 作业文件： machine-learning-ex5 1. 正则化线性回归 在本次练习的前半部分，我们将会正则化的线性回归模型来利用水库中水位的变化预测流出大坝的水量，后半部分我们对调试的学习算法进行了诊断，并检查了偏差和方差的影响。 1.1 可视化数据集 x表示水位变化，y表示水流量。整个数据集分 阅读全文