摘要：基本思想 朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法 。 基本方法 定义输入空间 （维向量集合），输出空间 。 输入：特征向量 ，输出：类别标记；是和的联合概率分布。 训练集 由独立同分布产生。 由于，故我们必须先学得先验概率分布和条件概率分布。 先验概率分布： 条件概率分布： 注：条件 阅读全文

摘要：K近邻算法 给定一个训练数据集，对新的输入实例，在训练数据集中找到跟它最近的k个实例，根据这k个实例的类判断它自己的类（一般采用多数表决的方法）。 算法详解： 输入：训练数据集 其中，为实例的特征向量，为实例的类别， 实例特征向量 ; 输出：实例所属的类 ; （1）根据给定的距离度量，在训练集中找出 阅读全文

摘要：模型定义 （感知机）假设输入空间（特征空间）是，出空间是，和分属这两个空间，那么由输入空间到输出空间的如下函数： 称为感知机。其中，和称为感知机模型参数，叫做权值或权值向量，叫做偏置， 表示向量和的内积。是一个判别函数： 感知机的几何解释是，线性方程 将特征空间划分为正负两个部分： 这个平面（2维时 阅读全文