2015年4月6日

Shooting Algorithm

摘要:Shooting算法是Wenjiang提出的一种优化Lasso(L1 Regularization)和Bridge Regression的算法, 本文以Lasso为例.对于线性回归问题$\mathbb{y}=X\mathbb{\beta}+\epsilon$, 普通最小二乘法(OLS, ordina... 阅读全文

posted @ 2015-04-06 14:54 潘的博客 阅读 (1486) 评论 (1) 编辑

Subgradient Algorithm

摘要:Subgradient是一种可以优化不可微的凸函数的方法.首先回顾凸函数的定义:$f(y) \geq f(x) + \nabla f(x)^T(y-x), all \hspace{2 pt} x, y$凸函数的subgradient的定义为满足以下条件的$g\in \mathcal{R}^n$$f(... 阅读全文

posted @ 2015-04-06 13:43 潘的博客 阅读 (923) 评论 (0) 编辑

导航

统计