2016年5月21日
从梯度下降到Fista
摘要： FISTA（A fast iterative shrinkage-thresholding algorithm）是一种快速的迭代阈值收缩算法（ISTA）。FISTA和ISTA都是基于梯度下降的思想，但是拥有更快的迭代速度。理论证明：FISTA和ISTA的迭代收敛速度分别为O(1/k2)和O(1/k)。 本篇博文先从解决优化问题的传统方法“梯度下降”开始，然后引入ISTA，最后再上升为FISTA。旨在更好得理清梯度下降、ISTA和FISTA三者的关系。 阅读全文
posted @ 2016-05-21 14:38 Junhao_wu 阅读(4489) 评论(1) 推荐(1) 编辑