摘要: 本文主要介绍了在对数线性模型,如逻辑斯谛回归模型和最大熵模型中经常使用的最优化方法,即改进的迭代尺度法的主要原理和算法流程 阅读全文
posted @ 2018-09-25 19:59 之语 阅读(1440) 评论(0) 推荐(0)
摘要: 本文主要介绍了最大熵的概念,以及利用最大熵原理推导出的最大熵模型,及其学习方式。 阅读全文
posted @ 2018-09-25 19:53 之语 阅读(591) 评论(0) 推荐(0)
摘要: 本文主要介绍了逻辑斯谛回归模型的基本原理,以及其参数估计的推导过程,并将二项逻辑斯谛模型推广到了多项逻辑斯谛模型上。 阅读全文
posted @ 2018-09-25 19:48 之语 阅读(830) 评论(0) 推荐(0)
摘要: 本文主要介绍了决策树学习的另一种算法,CART算法。该算法包含决策树的生成和剪枝算法,可以针对回归和分类问题,根据不同的特征选择标准,生成一棵二叉决策树。 阅读全文
posted @ 2018-09-21 17:23 之语 阅读(482) 评论(0) 推荐(0)
摘要: 本文主要介绍了决策树模型的学习算法,包括特征的选择,信息增益和信息增益比的概念和计算方法,决策树的生成,ID3和C4.5算法,决策树的剪枝算法。通过这些,我们可以利用训练数据构建出一棵可用的决策树。 阅读全文
posted @ 2018-09-20 18:06 之语 阅读(429) 评论(0) 推荐(0)
摘要: 本文主要介绍了决策树的基本概念,通过if-then规则和条件概率模型的角度,对决策树的学习和分类的原理做了初步的介绍,并指出决策树学习的基本过程,即特征选择、决策树的生成和决策树的剪枝 阅读全文
posted @ 2018-09-20 12:44 之语 阅读(1713) 评论(0) 推荐(1)
摘要: 主要介绍了朴素贝叶斯法的基本原理和推导过程,介绍了方法的学习和分类算法,并针对所要估计的概率值可能为0的问题,介绍了贝叶斯估计法。 阅读全文
posted @ 2018-09-19 19:43 之语 阅读(479) 评论(0) 推荐(0)
摘要: 实现了kd树的生成和最近邻点的查找算法,对代码做了一定程度的说明,以及进行了少量测试,测试结果表明算法具有分类效果。 阅读全文
posted @ 2018-09-12 17:21 之语 阅读(410) 评论(0) 推荐(0)
摘要: 介绍了k近邻法的基本原理以及其距离度量、k值得选择和分类决策规则三要素,然后介绍了kd树的建立和搜索方法,可以实现高效的k近邻搜索。 阅读全文
posted @ 2018-09-04 16:08 之语 阅读(489) 评论(0) 推荐(0)
摘要: 实现了感知机算法的原始形式,对代码做了一定介绍。测试结果表明,感知机模型具有一定的分类效果。 阅读全文
posted @ 2018-08-31 16:19 之语 阅读(517) 评论(0) 推荐(0)