随笔分类 -  机器学习

传统的机器学习算法
摘要:大家好,非常感谢关注到该博客园,由于个人原因,后期主要将知乎作为写作和记录平台,感兴趣的请移步到 个人知乎 有问题可以在那边提问,谢谢! 阅读全文
posted @ 2022-08-02 16:39 忆凡人生 阅读(314) 评论(0) 推荐(0)
摘要:目录 代码 结果 参数说明 一、代码 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 阅读全文
posted @ 2020-12-22 21:31 忆凡人生 阅读(399) 评论(0) 推荐(0)
摘要:目录 常规参数 Tree Booster的参数 Linear Booster的参数(booster=gblinear) 学习任务参数 代码主要函数 参数调整注意事项 在运行XGBoost之前,我们必须设置三种类型的参数:常规参数,增强器参数和任务参数。 常规参数与我们用来进行增强的助推器有关,通常是 阅读全文
posted @ 2020-10-22 16:57 忆凡人生 阅读(2707) 评论(0) 推荐(0)
摘要:目录 核心数据结构 学习API Scikit-Learn API 绘图API 回调API Dask API 一、核心数据结构 class xgboost.DMatrix(data, label=None, weight=None, base_margin=None, missing=None, si 阅读全文
posted @ 2020-10-22 16:57 忆凡人生 阅读(4646) 评论(0) 推荐(0)
摘要:目录 K-Means类概述 K-Means类主要参数 MiniBatchKMeans类主要参数 其他接口 K值的评估标准 在K-Means聚类算法原理中,我们对K-Means的原理做了总结,本文我们就来讨论用scikit-learn来学习K-Means聚类。重点讲述如何选择合适的k值。 一、K-Me 阅读全文
posted @ 2020-09-13 16:45 忆凡人生 阅读(2405) 评论(0) 推荐(0)
摘要:目录 CRF简介 序列标注问题 tensorflow里的条件随机场 总结 上一篇介绍了隐马尔科夫模型(HMM)在词性标注任务中的应用,但HMM 引入了马尔科夫假设:即当前时刻的状态只与其前一时刻的状态有关。但是,在序列标注任务中,当前时刻的状态,应该同该时刻的前后的状态均相关。于是,在很多序列标注任 阅读全文
posted @ 2020-08-15 23:03 忆凡人生 阅读(1338) 评论(0) 推荐(0)
摘要:自然语言处理中经典的隐马尔科夫模型(HMM)。HMM早期在语音识别、分词等序列标注问题中有着广泛的应用。 了解HMM的基础原理以及应用,对于了解NLP处理问题的基本思想和技术发展脉络有很大的好处。本文会详细讲述HMM的基本概念和原理,并详细介绍其在分词中的实际应用。 一、HMM简介 HMM是一种链式 阅读全文
posted @ 2020-08-15 23:02 忆凡人生 阅读(919) 评论(0) 推荐(0)
摘要:目录 条件随机场CRF—— 前向后向算法评估标记序列概率 条件随机场CRF—— 模型参数学习 条件随机场CRF—— 维特比算法解码 一、条件随机场CRF—— 前向后向算法评估标记序列概率 linear-CRF第一个问题是评估推断(Inference),即给定 linear-CRF的条件概率分布P(y 阅读全文
posted @ 2020-06-26 07:19 忆凡人生 阅读(983) 评论(1) 推荐(0)
摘要:目录 知识串讲 HMM VS MEMM 从随机场到马尔科夫随机场 条件随机场(CRF) MRF因子分解定理 线性链条件随机场(Linear-CRF) 一句话简介:条件随机场(Conditional Random Fields, 以下简称CRF)是给定一组输入序列条件下另一组输出序列的条件概率分布模型 阅读全文
posted @ 2020-06-21 22:43 忆凡人生 阅读(349) 评论(0) 推荐(0)
摘要:目录 XGBoost简介 Boosting介绍 AdaBoost算法 GBDT算法 总结 一、XGBoost简介 1.1 什么是XGBoost XGBoost全名叫(eXtreme Gradient Boosting)极端梯度提升,是陈天奇在GBDT的基础上提出的一种优化算法,也是一种集成算法。经常 阅读全文
posted @ 2020-05-06 22:56 忆凡人生 阅读(1385) 评论(0) 推荐(0)
摘要:目录 MCMC概述 马尔科夫链 MCMC采样和M-H采样 其它说明 一、MCMC概述 从名字我们可以看出,MCMC由两个MC组成,即蒙特卡罗方法(Monte Carlo Simulation,简称MC)和马尔科夫链(Markov Chain ,也简称MC)。 需要的背景:P(Z|X)概率推断infe 阅读全文
posted @ 2020-04-28 21:32 忆凡人生 阅读(2137) 评论(0) 推荐(0)
摘要:目录 蒙特卡洛方法概述 采样方法 小结 从名字我们可以看出,MCMC由两个MC组成,即蒙特卡罗方法(Monte Carlo Simulation,简称MC)和马尔科夫链(Markov Chain ,也简称MC)。这个因为受限玻尔兹曼机(RBM)中需要应用,所以先学习下其原理。本文先讲解蒙特卡洛方法。 阅读全文
posted @ 2020-04-18 23:41 忆凡人生 阅读(832) 评论(0) 推荐(0)
摘要:目录 简单介绍 LDA的相关说明 基本思想-2个类别 计算过程-2个类别 PCA VS LDA 总结 一、简单介绍 定义:Linear Discriminant Analysis是Ronald Fisher于1936年提出的方法,因此又叫做Fisher's linear discriminant。是 阅读全文
posted @ 2020-04-15 21:04 忆凡人生 阅读(1591) 评论(0) 推荐(0)
摘要:目录 PCA的思想 算法推导 PCA算法流程 核主成分分析KPCA介绍 PCA算法总结 主成分分析(Principal components analysis,以下简称PCA)是最重要的降维方法之一。在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用。 一、PCA的思想 PCA顾名思义,就是找出数 阅读全文
posted @ 2020-04-14 18:53 忆凡人生 阅读(418) 评论(0) 推荐(0)
摘要:【ML-13-1】隐马尔科夫模型HMM 【ML-13-2】隐马尔科夫模型HMM--前向后向算法 【ML-13-3】隐马尔科夫模型HMM--Baum-Welch(鲍姆-韦尔奇) 【ML-13-4】隐马尔科夫模型HMM--预测问题Viterbi(维特比)算法 目录 基础--HMM常用概率的计算 HMM最 阅读全文
posted @ 2020-04-12 12:54 忆凡人生 阅读(1890) 评论(3) 推荐(0)
摘要:【ML-13-1】隐马尔科夫模型HMM 【ML-13-2】隐马尔科夫模型HMM--前向后向算法 【ML-13-3】隐马尔科夫模型HMM--Baum-Welch(鲍姆-韦尔奇) 【ML-13-4】隐马尔科夫模型HMM--预测问题Viterbi(维特比)算法 目录 基础--HMM常用概率的计算 HMM模 阅读全文
posted @ 2020-04-12 12:53 忆凡人生 阅读(3208) 评论(0) 推荐(1)
摘要:【ML-13-1】隐马尔科夫模型HMM 【ML-13-2】隐马尔科夫模型HMM--前向后向算法 【ML-13-3】隐马尔科夫模型HMM--Baum-Welch(鲍姆-韦尔奇) 【ML-13-4】隐马尔科夫模型HMM--预测问题Viterbi(维特比)算法 目录 引言 直接计算 前向算法 前向算法实例 阅读全文
posted @ 2020-04-12 12:52 忆凡人生 阅读(1453) 评论(0) 推荐(0)
摘要:【ML-13-1】隐马尔科夫模型HMM 【ML-13-2】隐马尔科夫模型HMM--前向后向算法 【ML-13-3】隐马尔科夫模型HMM--Baum-Welch(鲍姆-韦尔奇) 【ML-13-4】隐马尔科夫模型HMM--预测问题Viterbi(维特比)算法 目录 基础知识-马尔可夫链 HMM简介 HM 阅读全文
posted @ 2020-04-12 12:50 忆凡人生 阅读(890) 评论(0) 推荐(0)
摘要:目录 预备知识 简述 EM算法推导 EM算法流程 收敛性证明 应用--高斯混合模型(GMM) EM算法优缺点以及应用 一、预备知识 1.1 极大似然函数: 在数理统计学中,似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。"似然性"与"或然性"或"概率"意思相近,都是指某种事件发生的 阅读全文
posted @ 2020-04-11 16:21 忆凡人生 阅读(903) 评论(0) 推荐(0)
摘要:目录 向量对向量 标量对多个向量 标量对多个矩阵 矩阵向量求导小结 求导的自变量和因变量直接有复杂的多层链式求导的关系,此时微分法使用起来也有些麻烦。需要一些简洁的方法。 本文我们讨论矩阵向量求导链式法则,使用该法则很多时候可以帮我们快速求出导数结果。如果遇到其他资料求 导结果不同,请先确认布局是否 阅读全文
posted @ 2020-04-05 22:23 忆凡人生 阅读(11062) 评论(0) 推荐(1)