随笔分类 -  机器学习

主要讲述一些与机器学习相关的模型
摘要:[TOC] 1、基本介绍 DCGAN是生成对抗网络GAN中一种常见的模型结构。其中的生成器和判别器都是神经网络模型。 GAN是一种生成式对抗网络,即通过对抗的方式,去学习数据分布的生成式模型。所谓的对抗,指的是生成网络和判别网络的互相对抗。生成网络尽可能生成逼真样本,判别网络则尽可能去判别该样本是真 阅读全文
posted @ 2019-05-23 18:02 hugechuanqi 阅读(3532) 评论(0) 推荐(0)
摘要:0、论文基本介绍以及相关内容 分析移动用户位置的相似性,提取移动用户的相似路径在出行路径预测、兴趣区域发现、轨迹聚类、个性化路径推荐等领域具有广泛的应用。 重点: 利用移动用户定位数据找到合适轨迹的表示方法,如何高效计算移动用户轨迹间的相似性 成为热点。 衡量相似度的方法有很多:欧式距离,动态时间规 阅读全文
posted @ 2019-04-02 15:00 hugechuanqi 阅读(12402) 评论(0) 推荐(0)
摘要:[TOC] 1、基本介绍 DTW:Dynamic Time Warping,即动态时间归整。DTW算法基于DP动态规划思想,解决了发音长短不一的模板匹配问题,常用于语音识别(孤立词识别)。 HMM算法在训练阶段需要提供大量的语音数据,通过反复急速那才能得到模型参数;而DTW算法的训练中几乎不需要额外 阅读全文
posted @ 2019-04-01 15:12 hugechuanqi 阅读(3698) 评论(0) 推荐(1)
摘要:[TOC] 1、基本知识点简介 在集成学习的Boosting提升算法中,有两大家族:第一是AdaBoost提升学习方法,另一种是GBDT梯度提升树。 传统的AdaBoost算法:利用前一轮迭代弱学习器的误差来更新训练集的权重,一轮轮迭代下去。 梯度提升树GBDT:也是通过迭代的算法,使用前向分布算法 阅读全文
posted @ 2019-03-23 16:55 hugechuanqi 阅读(11357) 评论(0) 推荐(0)
摘要:[TOC] 1、基本知识点简介 在集成学习的Boosting提升算法中,有两大家族:第一是AdaBoost提升学习方法,另一种是GBDT梯度提升树。 传统的AdaBoost算法:利用前一轮迭代弱学习器的误差来更新训练集的权重,一轮轮迭代下去。 梯度提升树GBDT:也是通过迭代的算法,使用前向分布算法 阅读全文
posted @ 2019-03-23 16:51 hugechuanqi 阅读(567) 评论(0) 推荐(0)
摘要:[TOC] 1、基本知识点简介 在集成学习的Boosting提升算法中,有两大家族:第一是AdaBoost提升学习方法,另一种是GBDT梯度提升树。 传统的AdaBoost算法:利用前一轮迭代弱学习器的误差来更新训练集的权重,一轮轮迭代下去。 梯度提升树GBDT:也是通过迭代的算法,使用前向分布算法 阅读全文
posted @ 2019-03-23 16:48 hugechuanqi 阅读(443) 评论(0) 推荐(0)
摘要:[TOC] 1、KNN近邻法 KNN模型由三个基本要素决定: 距离度量 :其中欧式距离一般误差最小,$x_{i} 和 x_{j}$为两个样本点:$$L_{2}(x_{i}, x_{j}) = (\sum\limits_{l=1}^{n} |x_{i}^{(l)} x_{j}^{(l)}|)$$ k值 阅读全文
posted @ 2019-03-23 14:55 hugechuanqi 阅读(316) 评论(0) 推荐(0)
摘要:[TOC] 1、基本知识点简介 在集成学习的Boosting提升算法中,有两大家族:第一是AdaBoost提升学习方法,另一种是GBDT梯度提升树。 传统的AdaBoost算法:利用前一轮迭代弱学习器的误差来更新训练集的权重,一轮轮迭代下去。 梯度提升树GBDT:也是通过迭代的算法,使用前向分布算法 阅读全文
posted @ 2019-03-22 17:24 hugechuanqi 阅读(1217) 评论(0) 推荐(0)
摘要:[TOC] 1、基本知识点介绍 RandomForest、XGBoost、GBDT和LightGBM都属于集成学习。 集成学习通过构建并结合多个分类器来完成学习任务,也称为多分类系统,集成学习的目的是通过结合多个机器学习分类器的预测结果来改善基本学习器的泛化能力和鲁棒性。 集成学习方法大致分为两类: 阅读全文
posted @ 2019-03-18 19:11 hugechuanqi 阅读(15569) 评论(0) 推荐(0)
摘要:[TOC] 决策树基本知识参考,请点击:https://www.cnblogs.com/hugechuanqi/p/10498786.html 3、CART算法(classification and regression tree tree) CART,即分类与回归树,是在给定输入随机变量X条件下输 阅读全文
posted @ 2019-03-17 23:11 hugechuanqi 阅读(1487) 评论(0) 推荐(0)
摘要:[TOC] 1、基本介绍 过拟合:指为了得到一致性假设而使假设变得过度严格。在模型参数拟合过程中,由于训练数据包含抽样误差,复杂的模型将抽样误差也考虑在内,将抽样误差也进行了很好的拟合。 当训练数据不够多时,者over training时,经常会导致over fitting(过拟合),如下图所示: 阅读全文
posted @ 2019-03-12 12:19 hugechuanqi 阅读(5993) 评论(0) 推荐(0)
摘要:[TOC] 1、定义和区别(优缺点对比) 聚类分为:基于划分、层次、密度、图形和模型五大类; 均值聚类k means是基于划分的聚类, DBSCAN是基于密度的聚类。区别为: 1. k means需要指定聚类簇数k,并且且初始聚类中心对聚类影响很大。k means把任何点都归到了某一个类,对异常点比 阅读全文
posted @ 2019-03-11 11:01 hugechuanqi 阅读(20173) 评论(0) 推荐(1)
摘要:[TOC] 1、决策树 树:是由节点和边两种元素组成的结构。其中节点包括根结点、父节点、子节点和叶子节点。 决策树:利用树结构进行决策,每一个非叶子节点是一个特征,表示一个判断条件,每一个叶子节点是是一个类,表示结论。 分类决策树模型:是一种描述对实例进行分类的树形结构。 决策树过程:可以把决策树看 阅读全文
posted @ 2019-03-08 23:12 hugechuanqi 阅读(578) 评论(0) 推荐(0)
摘要:以kaggle上的House Prices: Advanced Regression Techniques为例讲述线性回归 1、回归模型 (1)一般线性回归:Linear Regression without regularization (2)岭回归:Linear Regression with 阅读全文
posted @ 2019-01-13 20:22 hugechuanqi 阅读(436) 评论(0) 推荐(0)