随笔分类 -  机器学习

摘要：1、牛顿法 牛顿法是一种在实数域和复数域上近似求解方程的方法。方法使用函数f (x)的泰勒级数的前面几项来寻找方程f (x) = 0的根。牛顿法最大的特点就在于它的收敛速度很快。 具体步骤： 首先，选择一个接近函数 f (x)零点的 x0，计算相应的 f (x0) 和切线斜率f ' (x0)（这里f 阅读全文

摘要：一、 K-means 1、基础 1 Clustering 中的经典算法，数据挖掘十大经典算法之一 2 算法接受参数 k ；然后将事先输入的n个数据对象划分为 k个聚类以便使得所获得的聚类满足： 同一聚类中的对象相似度较高；而不同聚类中的对象相似度较小。 3 算法思想： 以空间中k个点为中心进行聚类， 阅读全文

摘要：贝叶斯基础 1、贝叶斯定理 贝叶斯定理（英语：Bayes' theorem）是概率论中的一个定理，它跟随机变量的条件概率以及边缘概率分布有关。在有些关于概率的解说中，贝叶斯定理（贝叶斯更新）能够告知我们如何利用新证据修改已有的看法。这个名称来自于托马斯·贝叶斯。 通常，事件A在事件B（发生）的条件下 阅读全文

摘要：前言 动笔写这个支持向量机(support vector machine)是费了不少劲和困难的，原因很简单，一者这个东西本身就并不好懂，要深入学习和研究下去需花费不少时间和精力，二者这个东西也不好讲清楚，尽管网上已经有朋友写得不错了(见文末参考链接)，但在描述数学公式的时候还是显得不够。得益于同学白 阅读全文

摘要：一、决策树 1. 决策树概念 判定树是一个类似于流程图的树结构：其中，每个内部结点表示在一个属性上的测试，每个分支代表一个属性输出，而每个树叶结点代表类或类分布。树的最顶层是根结点。 2. 机器学习中分类方法中的一个重要算法 3. 构造决策树的基本算法 分支 根结点 结点 树叶 熵（entropy） 阅读全文