Alternating Direction Method of Multipliers -- ADMM

前言：

　　Alternating Direction Method of Multipliers（ADMM）算法并不是一个很新的算法，他只是整合许多不少经典优化思路，然后结合现代统计学习所遇到的问题，提出了一个比较一般的比较好实施的分布式计算框架。在了解ADMM之前，需要了解它的前身，对偶上升法（Dual Ascent）和增强拉格朗日乘子法（Augmented Lagrangians and the Method of Multipliers）。

 

 

 

　　文章主要参考资料如下：

　　【1】Distributed Optimization and Statistical Learning via the Alternating Direction Method of Multipliers（第7页到第15页）

　　【2】分布式计算、统计学习与ADMM算法

---

---