摘要： 一、什么是决策树及其适用情况 1. 决策树概况 决策树是一种基本的回归与分类方法。在分类中，表示基于特征对实例进行分类的过程，是定义在特征空间和类空间上的条件概率分布。优点：具有可读性，分类速度快 在学习时，利用训练数据，根据损失函数最小化原则建立模型，预测时，对新的数据，利用模型进行分类。从根节点 阅读全文

摘要： “概率论只不过是把常识用数学公式表达了出来”——拉普拉斯 一、朴素贝叶斯方法工作基本原理 朴素贝叶斯是基于特征条件独立假设和贝叶斯定理的分类方法。对于分类训练数据集，基于特征条件独立假设学习输入/输出的联合概率分布。对于待分类的输入，利用贝叶斯定理求出后验概率最大的输出y。 * 先验概率是根据以往经 阅读全文

摘要： 一、KNN算法介绍 KNN算法是一种分类与回归方法，KNN模型：输入为实例的特征向量，对应于特征空间的点，输出为实例的类别。在输入特征向量后，KNN模型事先有一个训练数据集，数据集中的每个实例都有一个类别，根据实例的特征向量与训练数据集中实例的距离，来判断距离输入实例的k近邻数据，根据多数投票原则确 阅读全文