摘要：聚类试图将数据集中的样本划分为若干个通常不相交的子集，每个子集称为一个“簇”。通常为“无监督学习”，对无标记训练样本学习来揭示数据的内在规律和性质。 下面主要讲三种聚类模型： 1. 原型聚类 “原型”是指样本空间中具有代表性的点。通常是算法先对原型进行初始化，然后对原型进行迭代更新求解。介绍三种著名 阅读全文

摘要：文章转载http://www.cnblogs.com/21207-iHome/p/6084670.html 最近邻法和k-近邻法 下面图片中只有三种豆，有三个豆是未知的种类，如何判定他们的种类？ 提供一种思路，即：未知的豆离哪种豆最近就认为未知豆和该豆是同一种类。由此，我们引出最近邻算法的定义：为了 阅读全文

摘要：1. 个体和集成 集成学习通过构建并结合多个“个体学习器”来完成学习任务。个体学习器通常由一个现有的学习算法从训练数据产生，若集成中只包含同种类型的个体学习器，称为同质集成；若包含不同类型的个体学习器，为异质集成。同质集成中的个体学习器也成为“基学习器”。 如何产生并结合“好而不同”的个体学习器，恰 阅读全文

摘要：1. 贝叶斯网络的定义 贝叶斯网络(Bayesian network)，又称信念网络(Belief Network)，或有向无环图模型(directed acyclic graphical model)，是一种概率图模型，于1985年由Judea Pearl首先提出。它是一种模拟人类推理过程中因果关 阅读全文

摘要：该文章参考周志华老师著的《机器学习》一书 1. 朴素贝叶斯分类器 朴素贝叶斯分类器采用了“属性条件独立性假设”：对已知类别，假设所有属性相互独立，即假设每个属性独立的对分类结果发生影响。 d为属性数目，xi 为 x 在第 i 个属性上的取值，朴素贝叶斯分类器的表达式为： 令 Dc 表示训练集 D 中 阅读全文

摘要：该文章参考周志华老师著的《机器学习》一书 1. 贝叶斯决策论 定义： 贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有概率都已知的理想情形下，贝叶斯决策考虑如何基于这些概率和误判损失来选择最优的类别标记，下面以多分类任务为例来解释其基本原理。 条件风险：假设有N中可能的类别标记，即 阅读全文