线性回归学习

线性回归学习

线性回归研究问题:预测某些数据

线性分布服从y= θ0 + θ1x + e ,e为均值为0的正态分布
如图,给定一组数据,就能找到因变量Yi和自变量Xi服从一下规律
Yi = θ0 + θ1Xi1 + θ2Xi2 + θ3Xi3 +...+ θnXin + e
这里我们要利用给定的数据,求解θ0,θ1..θn,就能得到方程了,也就达到了预测的目的

梯度下降:

每一组数据都有精度的损失,所以需要引入精度损失函数(Loss function 或者叫 cost function),目的是为了在梯度下降时用来衡量我们更新后的参数是否是向着正确的方向前进
那要怎么前进才能最快下降呢,那就对image函数求关于θ的偏导,求偏导过程如下image

θj = (hθ(x)-y)xj 各个含义如下:hθ(x)代表了由x带入含θ表达式计算得到的结果,xj代表了是第几个x,比如y = 3 + 2x1 + 4x2,j=2则表示xj就应该是4x2这个地方的x2,θj表示的就是4

得到了θ的偏导数,每次计算都要修正θ,让结果每次朝着正确的方向前进,修正表达式如下
image

参考文献:
梯度下降原理: https://blog.csdn.net/TaoTaoFu/article/details/52831531



                              _.._        ,------------.
                           ,'      `.    (I want you! )
                          /  __) __` \    `-,----------'
                         (  (`-`(-')  ) _.-'
                         /)  \  = /  (
                        /'    |--' .  \
                       (  ,---|  `-.)__`
                        )(  `-.,--'   _`-.
                       '/,'          (  Uu",
                        (_       ,    `/,-' )
                        `.__,  : `-'/  /`--'
                          |     `--'  |
                          `   `-._   /
                           \        (
                           /\ .      \.
                          / |` \     ,-\
                         /  \| .)   /   \
                        ( ,'|\    ,'     :
                        | \,`.`--"/      }
                        `,'    \  |,'    /
                       / "-._   `-/      |
                       "-.   "-.,'|     ;
                      /        _/["---'""]
                     :        /  |"-     '
                     '           |      /
                                 `      |
posted @ 2019-07-18 13:43 万恶之源 阅读(...) 评论(...) 编辑 收藏