Week2.1_多变量线性回归

 

举个例子：

房价其实由很多因素决定，比如size、number of bedrooms、number of floors、age of home等，这里我们假设房价由4个因素决定，如下图所示：

 

我们前面定义过单变量线性回归的模型：

 

 

这里我们可以定义出多变量线性回归的模型：

 

 

 

Cost function如下：

 

 

如果我们要用梯度下降解决多变量的线性回归，则我们还是可以用传统的梯度下降算法进行计算：

 

 

 

 二、正轨方程：--快速得到theta的方法

(1)另一种线性回归方法：Normal Equation；

(2)Gradient Descent与Normal Equation的优缺点；

 

 

前面我们通过Gradient Descent的方法进行了线性回归，但是梯度下降有如下特点：

(1)需要预先选定Learning rate；

(2)需要多次iteration；

(3)需要Feature Scaling；

 

因此可能会比较麻烦，这里介绍一种适用于Feature<1万个数量较少时使用的方法：

 

Normal Equation的公式：

 

 

 

 

表示第i个training example； 第i个样本的所有特征展示

表示第i个training example里的第j个feature的值； 唯一一个

m：training example；行

n：feature；列