摘要：经典最优化极值问题中，解析法虽然具有概念简明，计算精确等优点，但因只能适用于简单或特殊问题的寻优，对于复杂的工程实际问题通常无能为力，一般采用迭代算法，逐渐逼近最优解。 阅读全文

摘要：现有最优化方法对一般函数只能找到局部最优解，判断有无极值点以及它是否为全局最优解要用到函数凸性概念。一般在现实优化问题上，我们一般把优化问题变成凸优化问题，因为凸优化，**凸优化（Convex OPtimization）**是数学优化中的一个重要分支，研究的是在凸集上极小值的问题。下面首先介绍凸集。从直观上看，凸集是这样一些点的集合，它的内部没有“洞”（hole），边界不向内凹。凸集的基本特征，是其上任取两点所联成线段上的点依然属于这个集合。在数学上就是采用这种描述方法给凸集下定义的。首先给出凸组合的概念，在给出凸集和凸函数的定义，并简单讨论凸函数判定方法 阅读全文

摘要：函数f(X)在局部极小值点应满足什么条件？反之，满足什么条件的是局部极小点?这就是凸优化的基本问题。下面针对多元函数的情形给出各类极小值点的定义。 阅读全文

摘要：上一节说过，梯度 $\nabla f(\mathbf{X})$ 是$f(\mathbf{X})$ 关于$\mathbf{X}$ 的一阶导数，现在一个问题$f(\mathbf{X})$ 关于 $\mathbf{X}$ 的二阶导数是什么？Hessian 矩阵（海森矩阵）是一个多变量实值函数$f(\mathbf{X})$的二阶导数构成得方阵，其几何意义是描述了一个多元函数或场函数的局部曲率。在机器学习、优化问题和物理反演问题中，Hessian矩阵扮演着重要的角色，尤其是在寻找函数的极值点（如损失函数或目标函数的最小值）和分析系统的稳定性。 阅读全文

摘要：​ 所谓方向导数的概念是作为偏导数的概念的前瞻数学概念而引入的，是矩阵微分的重要概念，其主要研究多元函数在变量空间沿任意方向的变化率。 阅读全文

摘要：二次型理论在凸优化问题设计中应用十分广泛。应用矩阵乘法运算，二次型与实对称矩阵紧密地联系在一起，从而二次型的基本问题又可以转换为实对称矩阵问题。 阅读全文

摘要：凸优化问题笔记（一）最小体积椭球包络问题（MVEE）数学推导 ​ 最小体积椭球包络问题（Minimum Volume Enclosing Ellipsoid, MVEE），又称Löwner-John 椭球问题，是计算几何与凸优化领域的经典问题，目标是在 n 维欧氏空间中，寻找一个包含给定有限点集的体 阅读全文