随笔分类 -  机器学习常见算法

主成分分析（PCA）Principal Component Analysis
摘要：关于主成分分析的理论推导（PCA降维算法） 一 特征选择与特征提取 关于主成分分析，严格一点说，它应该属于 特征提取 ，而不是 特征选择 。 我们先来看看什么是特征选择？ 比如现在我们的训练数据集是： $$ \left \{ (x_{1},y_{1}),(x_{2},y_{2}),(x_{3},y_ 阅读全文
posted @ 2019-08-15 10:00 罗亚雄 阅读(1291) 评论(0) 推荐(0)
梯度下降算法
摘要：梯度下降算法详解 介绍 如果说在机器学习领域有哪个优化算法最广为认知，用途最广，非梯度下降算法莫属。梯度下降算法是一种非常经典的求极小值的算法，比如在线性回归里我们可以用最小二乘法去解析最优解，但是其中会涉及到对矩阵求逆，由于多重共线性问题的存在是很让人难受的，无论进行L1正则化的Lasso回归还是 阅读全文
posted @ 2019-07-25 16:06 罗亚雄 阅读(1051) 评论(0) 推荐(0)
Xgboost
摘要： 阅读全文
posted @ 2019-06-01 22:40 罗亚雄 阅读(216) 评论(0) 推荐(0)
梯度提升树（Gradient Boosting Decision Tree---GBDT）
摘要： 阅读全文
posted @ 2019-06-01 17:47 罗亚雄 阅读(401) 评论(0) 推荐(0)
Adaboost
摘要： 阅读全文
posted @ 2019-05-30 18:59 罗亚雄 阅读(223) 评论(0) 推荐(0)
决策树（Decision Trees）
摘要： 阅读全文
posted @ 2019-04-14 15:23 罗亚雄 阅读(298) 评论(0) 推荐(0)
六 EM算法
摘要： 阅读全文
posted @ 2019-04-13 21:55 罗亚雄 阅读(292) 评论(0) 推荐(0)
五 朴素贝叶斯（Naive Bayesian）
摘要： 阅读全文
posted @ 2019-04-13 18:20 罗亚雄 阅读(222) 评论(0) 推荐(0)
二 逻辑回归（Logistic Rgression）
摘要： 阅读全文
posted @ 2019-04-12 17:56 罗亚雄 阅读(504) 评论(0) 推荐(0)
一 线性回归（Linear Regression）
摘要： 阅读全文
posted @ 2019-04-11 15:52 罗亚雄 阅读(363) 评论(0) 推荐(0)
支持向量机(Support Vector Machine)
摘要： 阅读全文
posted @ 2019-04-10 23:58 罗亚雄 阅读(340) 评论(0) 推荐(0)
机器学习常见算法
摘要：一 线性回归 链接：https://www.cnblogs.com/LUOyaXIONG/p/10690191.html 二 逻辑回归 链接：https://www.cnblogs.com/LUOyaXIONG/p/10697596.html 三 k-近邻算法 链接：https://www.cnbl 阅读全文
posted @ 2019-03-24 21:08 罗亚雄 阅读(492) 评论(0) 推荐(0)