摘要：本系列内容大部分来自Standford公开课machine learning中Andrew老师的讲解，附加自己的一些理解，编程实现和学习笔记。第一章 Logistic regression1.逻辑回归逻辑回归是一种监督学习的分类算法，相比较之前的线性回归算法，差别在于它是一个分类算法，这也意味着y不... 阅读全文

摘要：这篇文章将介绍过拟合和欠拟合的概念，并且介绍局部加权回归算法。过拟合和欠拟合之前在线性回归中，我们总是将单独的x作为我们的特征，但其实我们可以考虑将，甚至x的更高次作为我们的特征，那么我们通过线性回归得到的就将是一个多次函数了。我们可以想象当我们只用x作为我们的特征的时候，我们的数据可能实际呈现的样... 阅读全文

摘要：这篇博客从一种方式推导了Linear regression 线性回归的概率解释，内容来自Standford公开课machine learning中Andrew老师的讲解。线性回归的概率解释在Linear regression中我们人为的定义了，损失函数，然而我们并没有说明为什么我们会选择最小二乘作为... 阅读全文

摘要：这篇博客针对的AndrewNg在公开课中未讲到的，线性回归梯度下降的学习率进行讨论，并且结合例子讨论梯度下降初值的问题。线性回归梯度下降中的学习率上一篇博客中我们推导了线性回归，并且用梯度下降来求解线性回归中的参数。但是我们并没有考虑到学习率的问题。我们还是沿用之前对于线性回归形象的理解：你站在山顶... 阅读全文

摘要：本系列内容大部分来自Standford公开课machine learning中Andrew老师的讲解，附加自己的一些理解，编程实现和学习笔记。第一章 Linear regression 1.线性回归线性回归是一种监督学习的方法。线性回归的主要想法是给出一系列数据，假设数据的拟合线性表达式为：如何求得... 阅读全文