红豆生南国 是很遥远的事情

摘要： 目录1. 暴力求解法2. 前向算法求HMM观测序列的概率3. 从后往前推 后向算法 1. 暴力求解法 任意一条路径都有可能得到需要的观测结果： 如果我们的隐藏状态数N非常多的那就麻烦了，此时我们预测状态有NT种组合，算法的时间复杂度是O(TNT)阶的 2. 前向算法求HMM观测序列的概率 在前向算法 阅读全文

摘要： 目录1. Hidden Markov Model2. HMM模型定义 注：参考链接 https://www.cnblogs.com/pinard/p/6945257.html 1. Hidden Markov Model 隐马尔科夫模型（Hidden Markov Model，以下简称HMM）是比较 阅读全文

摘要： 目录1. 贝叶斯公式2. 朴素贝叶斯算法3. 其他的贝叶斯模型 1. 贝叶斯公式 P(A|B) 后验概率在B事件发生的基础上A发生的概率， 举例： 血液检测呈阳性患XX病的概率， 已知拍西瓜清脆的声音，西瓜成熟的概率是不是会大一点， 相亲功能否成功是有一定的概率，但是如果知道对方是一个高富帅（或者白 阅读全文

摘要： 目录1. 复习条件概率2. 正式进入3. 生成式 与判别式 这个阶段的内容，采用概率论的思想，从样本里面学到知识（训练模型），并对新来的样本进行预测。 主要算法：贝叶斯分类算法、隐含马尔可夫模型、最大熵模型、条件随机场。 通过本阶段学习，掌握NLP自然语言处理的一些基本算法，本阶段的理解对于后续完成 阅读全文

摘要： 目录 阅读全文

摘要： 目录1. 复习2. GBDT3. gbdt应用于二分类：3. gbdt应用于多类4. 叶子节点输出值c的计算5. GBDT的其他应用6. GBDT+LR 代码实现 1. 复习 再开始学习GBDT算法之前 先复习一下之前的 线性回归 逻辑回归（二分类） 多分类 线性回归 找到一组W 使得 L 最小 进 阅读全文

摘要： 目录1. adaboost算法的基本思想2. 具体实现 1. adaboost算法的基本思想 集成学习是将多个弱模型集成在一起 变成一个强模型 提高模型的准确率，一般有如下两种： bagging: 不同的base model可以并行计算，输出预测结果少数服从多数，回归问题则对多个模型输出的结果求平均 阅读全文

摘要： 目录1. 概念什么是bagging3. 代码4. 代码2 1. 概念 多个决策树组合在一起 对新来的样本进行预测 输出预测结果 有朋友的意见投票, 少数服从多数， 有的给出-1 有的给+1 将这些结果全部加一起 最后取符号是+1 -1 就行 majority can corret minority 阅读全文

摘要： 目录1. 剪枝2. CCP—代价复杂度剪枝（CART）4. α值的确定 1. 剪枝 将子树还原成一个叶子节点： 是解决过拟合的一个有效方法。当树训练得过于茂盛的时候会出现在测试集上的效果比训练集上差不少的现象，即过拟合。可以采用如下两种剪枝策略。 前剪枝，设置超参数抑制树的生长， 例如:max_de 阅读全文

摘要： 目录1. 决策树2. 举个例子 计算信息增益3. C4.5算法 1. 决策树 决策树是属于有监督机器学习的一种，起源非常早，符合直觉并且非常直观， 模型生成：通过大量数据生成一颗非常好的树，用这棵树来预测新来的数据 预测：来一条新数据，按照生成好的树的标准，落到某一个叶子节点上 决策树的数学表达，递 阅读全文