支持向量机（SVM）重新理解

一、凸二次规划(convex quadratic programming)问题

• 凸函数：这里的凸函数与高数不一样：国内分为下凸函数（就是高数中的凹函数）上凸函数

　　　　

　　　　f(x)=x直线也是凸函数，但不严格
　　　　严格的来说应该是f[(x₁+x₂)/2]<[f(x₁)+f(x₂)]/2例如f(x)=x²

• 仿射函数　　
  　最高次数为1的多项式函数。
  　
   仿射函数也是凸函数，只是不是严格凸函数。
   常数项为零的仿射函数称为线性函数，线性函数是过原点的仿射函数
• 凸优化的问题

      若f(x)为目标函数、g(x)为不等式约束、h(x)为等式约束。三者在定义域内是连续可微的，且目标函数f和不等式约束函数g是凸函数，等式约束h是仿射函数，则这种约束最优化问题称为凸优化问题。

• 凸二次优化的问题
   凸二次规划问题是凸优化问题的一个特殊形式，当目标函数是二次型函数且不等式约束函数g(x)是仿射函数时，就变成一个凸二次规划问题。