凸优化
以下是凸优化中常用的公式,使用 LaTeX 和 Markdown 格式表示:
-
凸函数(Convex Function):
定义:函数 \(f: \mathbb{R}^n \rightarrow \mathbb{R}\) 是凸函数,如果对于任意两个点 \(x, y \in \mathbb{R}^n\) 和 \(0 \leq \lambda \leq 1\),满足\[f(\lambda x + (1-\lambda)y) \leq \lambda f(x) + (1-\lambda)f(y) \] -
凸集(Convex Set):
定义:集合 \(C \subseteq \mathbb{R}^n\) 是凸集,如果对于任意两个点 \(x, y \in C\) 和 \(0 \leq \lambda \leq 1\),都有\[\lambda x + (1-\lambda)y \in C \] -
凸优化问题(Convex Optimization Problem):
目标函数和约束条件都是凸函数的优化问题。 -
最小化凸函数的凸优化问题:
\[\text{minimize} \;\; f_0(x) \]\[\text{subject to} \;\; f_i(x) \leq 0, \;\; i = 1,2,\ldots,m \]\[h_i(x) = 0, \;\; i = 1,2,\ldots,p \] -
凸优化问题的最优解(Optimal Solution of Convex Optimization Problem):
如果凸优化问题存在最优解,那么最优解满足以下条件:\[f_0(x^*) \leq f_0(x), \;\; \text{for all feasible } x \]\[f_i(x^*) \leq 0, \;\; i = 1,2,\ldots,m \]\[h_i(x^*) = 0, \;\; i = 1,2,\ldots,p \] -
拉格朗日乘子法(Lagrange Multiplier Method):
对于凸优化问题,通过构建拉格朗日函数,引入拉格朗日乘子,可以将原问题转化为一个无约束优化问题。 -
KKT 条件(Karush-Kuhn-Tucker Conditions):
对于凸优化问题的最优解,KKT 条件是其必要条件。对于最小化问题,KKT 条件如下:
约束条件:\[f_i(x^*) \leq 0, \;\; i = 1,2,\ldots,m \]\[h_i(x^*) = 0, \;\; i = 1,2,\ldots,p \]拉格朗日乘子:
\[\lambda_i \geq 0, \;\; i = 1,2,\ldots,m \]\[\mu_i \in \mathbb{R}, \;\; i = 1,2,\ldots,p \]KKT 条件:
\[\nabla f_0(x^*) + \sum_{i=1}^{m} \lambda_i \nabla f_i(x^*) + \sum_{i=1}^{p} \mu_i \nabla h_i(x^*) = 0 \]\[f_i(x^*) \leq 0, \;\; i = 1,2,\ldots,m \]\[h_i(x^*) = 0, \;\; i = 1,2,\ldots,p \]\[\lambda_i \geq 0, \;\; i = 1,2,\ldots,m \]\[\lambda_i f_i(x^*) = 0, \;\; i = 1,2,\ldots,m \]
以上是一些常见的凸优化公式和定义。你可以使用 LaTeX 和 Markdown 格式来呈现这些公式,以便更清晰地表示数学表达式。希望对你有所帮助!