凸优化问题

目录

• 凸优化问题（convex problems）
• 局部最优等同于全局最优（凸优化）
• \(x^{\star} \in S\)是最优解\(\Leftrightarrow \nabla f(x)^{T}\left(x-x^{*}\right) \geqslant 0 ，\forall x \in S\)
• 几何解释
• 无约束凸优化问题\(minf(x)\)
• 等式约束凸优化\(\left.\min \{ f(x) \mid A x=b\right\}\)
• 非负约束凸优化\(\min \{f(x) \mid x \geqslant 0\}\)

凸优化问题（convex problems）

一般问题描述

\[\min f\left(x_{1}, \ldots x_{n}\right) \]

\[\text { s.t. } g_{i}\left(x_{i}, \ldots, x_{n}\right) \leqslant 0, i=1, \ldots, m \]

\[h_{i}\left(x_{1}, \ldots x_{n}\right) \leqslant 0 \quad i=1, \ldots . l . \]


局部最优等同于全局最优（凸优化）

对于凸优化问题，局部最优等同于全局最优

\(proof\):如下

\(x^{\star} \in S\)是最优解\(\Leftrightarrow \nabla f(x)^{T}\left(x-x^{*}\right) \geqslant 0 ，\forall x \in S\)

\(x^{\star} \in S\)是最优解\(\Leftrightarrow \nabla f(x)^{T}\left(x-x^{*}\right) \geqslant 0 ，\forall x \in S\)

\(proof\):如下

几何解释


无约束凸优化问题\(minf(x)\)

\[x^{*} \text{最优} \Leftrightarrow \nabla f\left(x^{x}\right)=0 \]

\(proof\):如下

等式约束凸优化\(\left.\min \{ f(x) \mid A x=b\right\}\)

\[\left.\min \{ f(x) \mid A x=b\right\} \]

\(proof\):如下

非负约束凸优化\(\min \{f(x) \mid x \geqslant 0\}\)

\(proof\):如下