JiePro

静坐 常思己过 闲谈 莫论人非

导航

08 2013 档案

局部加权线性回归
摘要:目录:1、简述2、数学表达3、总结1、简述 线性回归是一种parametric learning algorithm,而局部加权线性回归是一种 non-parametric learning algorithm。Parametric learning algorithm 有固定的(指的是:值的大小是固定)、有限的参数,通过训练样本,找到合适的参数后,对于之后未知的输入,我们可以直接利用这组参数得出其相应的预测输出。而non-parametriclearning algorithm 需要的计算量与输入的训练集大小成正比,对于每次新的输入,需重新计算相应参数后,才能求取相应的预测输出。 “局部.. 阅读全文

posted @ 2013-08-26 14:59 JiePro 阅读(3046) 评论(2) 推荐(0)

线性回归:梯度下降
摘要:目录:1、什么是线性回归 1.1 理论模型 1.2 数据和估计2、线性回归参数求解方法 2.1 直接求取参数 2.2 梯度下降法 2.3 随机梯度下降法3、为什么选择最小二乘为评判标准 3.1 似然函数 3.2 求解极大似然函数 3.3 结论1、什么是线性回归 线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归,大于一个自变量情况的叫做多元回归。1.1 理论模型 给一个随机样本,一个线性回归模型假设回... 阅读全文

posted @ 2013-08-23 17:51 JiePro 阅读(2475) 评论(0) 推荐(0)