摘要： 
最优化问题指的是找出实数函数的极大值或极小值，该函数称为目标函数。 由于定位f(x)的极大值与找出-f(x)的极小值等价，在推导计算方式时仅考虑最小化问题就足够了。极少的优化问题，比如最小二乘法，可以给出封闭的解析解(由正规方程得到)。然而，大多数优化问题，只能给出数值解，需要通过数值迭代算法一步一步地得到。按照不同分类标准，可分为有约束和无约束优化、线性和非线性规划、 凸优化和非凸优化等。 阅读全文
最优化问题指的是找出实数函数的极大值或极小值，该函数称为目标函数。 由于定位f(x)的极大值与找出-f(x)的极小值等价，在推导计算方式时仅考虑最小化问题就足够了。极少的优化问题，比如最小二乘法，可以给出封闭的解析解(由正规方程得到)。然而，大多数优化问题，只能给出数值解，需要通过数值迭代算法一步一步地得到。按照不同分类标准，可分为有约束和无约束优化、线性和非线性规划、 凸优化和非凸优化等。 阅读全文