随笔分类 -  k近邻算法

摘要：k近邻模型主要包含三个基本要素：距离度量、k值的选择、分类决策规则模型：k近邻法中，当训练集、距离度量、k值及分类决策规则确定后，对于一个新的输入实例，它所属的类唯一确定，这相当于根据上述要素将特征空间划分为一些子空间，确定子空间里的每一点所属的类。距离度量：特征空间中的两个实例点的距离是两个实例点... 阅读全文

摘要：k 近邻算法是一种基本分类与回归方法。我现在只是想讨论分类问题中的k近邻法。k近邻算法的输入为实例的特征向量，对应于特征空间的点，输出的为实例的类别。k邻近法假设给定一个训练数据集，其中实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测。下面主要叙述... 阅读全文