随笔分类 -  机器学习

机器学习相关
硕士时代的数学知识点小节
摘要：Background 这篇blog的起源是，在四刷西瓜书时，遇到了许多熟悉但又似乎陌生的数学概念，尤其集中在线代/微积分/概率论以及最优化之中。想当年我的概率论分数还挺高的，咋遇到这些问题依然百思不得其解捏？其一是基础其实并不扎实，只是知道公式、会计算而已；其二是学了这么多theory之后，更关注这 阅读全文
posted @ 2020-07-13 16:28 ZinYY 阅读(458) 评论(1) 推荐(0)
使用SKlearn(Sci-Kit Learn)进行SVR模型学习
摘要：今天了解到sklearn这个库，简直太酷炫，一行代码完成机器学习。 贴一个自动生成数据,SVR进行数据拟合的代码，附带网格搜索(GridSearch, 帮助你选择合适的参数)以及模型保存、读取以及结果绘制。 阅读全文
posted @ 2018-08-25 19:25 ZinYY 阅读(16164) 评论(0) 推荐(0)
使用经验风险最小化ERM方法来估计模型误差 开坑
摘要：虽然已经学习了许多机器学习的方法，可只有我们必须知道何时何处使用哪种方法，才能将他们正确运用起来。 那不妨使用经验最小化ERM方法来估计 。 首先： 其中， δ代表训练出错的概率 k代表假设类的个数 m代表样本(数据集)个数 γ代表误差阈值 于是我们可以得到： 但我们的假设都是建立在k有限的条件上， 阅读全文
posted @ 2018-07-31 19:55 ZinYY 阅读(610) 评论(0) 推荐(0)
K-means + PCA + T-SNE 实现高维数据的聚类与可视化
摘要：使用matlab完成高维数据的聚类与可视化 最终效果： 阅读全文
posted @ 2018-07-18 23:37 ZinYY 阅读(14443) 评论(0) 推荐(2)
Logistic回归 逻辑回归 练习——以2018建模校赛为数据源
摘要：把上次建模校赛一个根据三围将女性分为四类(苹果型、梨形、报纸型、沙漏)的问题用逻辑回归实现了，包括从excel读取数据等一系列操作。 Excel的格式如下：假设有r列，则前r-1列为数据，最后一列为类别，类别需要从1开始，1~k类， 如上表所示，前10列是身高、胸围、臀围等数据(以及胸围和腰围、胸围 阅读全文
posted @ 2018-06-16 10:30 ZinYY 阅读(1300) 评论(0) 推荐(0)
局部加权回归(LWR) Matlab模板
摘要：将百度文库上一份局部加权回归的代码，将其改为模板以便复用。 q2x,q2y为数据集，是n*1的矩阵； r是波长参数，就是对于距离的惩罚力度； q_x是要拟合的数据横坐标，是1*n的矩阵； 得到的q_y即为所求坐标，是n*1的矩阵。 由于使用的是正规方程而非最小化代价函数来求方程，这份代码就留给建模的 阅读全文
posted @ 2018-06-12 10:02 ZinYY 阅读(1681) 评论(0) 推荐(0)
Machine Learning方法总结
摘要：Kmeans——不断松弛(？我的理解)模拟，将点集分成几堆的算法(堆数需要自己定)。 局部加权回归(LWR)——非参数学习算法，不用担心自变量幂次选择。(因此当二次欠拟合， 三次过拟合的时候不妨尝试这种办法) 逻辑回归Logistic Regression(Sigmoid)——分类问题的常用拟合函数 阅读全文
posted @ 2018-06-11 23:36 ZinYY 阅读(430) 评论(0) 推荐(0)
吴恩达(Andrew Ng)——机器学习笔记1
摘要：之前经学长推荐，开始在B站上看Andrew Ng的机器学习课程。其实已经看了1/3了吧，今天把学习笔记补上吧。 吴恩达老师的Machine learning课程共有113节(B站上的版本https://www.bilibili.com/video/av9912938)。这篇学习笔记是结合第一、二部分 阅读全文
posted @ 2018-06-06 13:06 ZinYY 阅读(546) 评论(0) 推荐(0)