拉格朗日乘子法和KKT条件

0 前言

上”最优化“课,老师讲到了无约束优化的拉格朗日乘子法和KKT条件。

这个在SVM的推导中有用到,所以查资料加深一下理解。

 

1 无约束优化

对于无约束优化问题中,如果一个函数f是凸函数,那么可以直接通过f(x)的梯度等于0来求得全局极小值点。

为了避免陷入局部最优,人们尽可能使用凸函数作为优化问题的目标函数。

凸集定义:欧式空间中,对于集合中的任意两点的连线,连线上任意一点都在集合中,我们就说这个集合是凸集。

凸函数定义:对于任意属于[0,1]的a和任意属于凸集的两点x, y,有f( ax + (1-a)y ) <= a * f(x) + (1-a) * f(y),几何上的直观理解就是两点连线上某点的函数值,大于等于两点之间某点的函数值。凸函数的任一局部极小点也是全局极小点

半正定矩阵的定义:特征值大于等于0的实对称矩阵。

半正定矩阵的充要条件:行列式(n阶顺序主子式)等于0,行列式的i阶顺序主子式>=0,i从1到n-1

凸函数的充要条件:如果f(x)在开凸集S上具有二阶连续偏导数,且f(x)的海塞矩阵(二阶偏导的矩阵)在S上处处半正定,则f(x)为S上的凸函数。

 

2 约束优化定义

考虑带约束的优化问题,可以描述为如下形式

 

其中f(x)是目标函数,g(x)为不等式约束,h(x)为等式约束。

若f(x),h(x),g(x)三个函数都是线性函数,则该优化问题称为线性规划。若任意一个是非线性函数,则称为非线性规划。

若目标函数为二次函数,约束全为线性函数,称为二次规划。

若f(x)为凸函数,g(x)为凸函数,h(x)为线性函数,则该问题称为凸优化。注意这里不等式约束g(x)<=0则要求g(x)为凸函数,若g(x)>=0则要求g(x)为凹函数。

凸优化的任一局部极值点也是全局极值点,局部最优也是全局最优。

 

3 等式约束

考虑一个简单的问题目标函数f(x) = x1 + x2,等式约束$ h(x) = x_1^2 + x_2^2 - 2 $,求解极小值点。

f(x)在二维平面上画出等高线(contour)就是一条条斜率相同的直线,h(x)=0在二维平面上画出等高线就是一个圆,如下图所示。

可以明显的看出,在圆圈h(x)的限制下,直线f(x)的最小值为-2,在左下角直线x1+x2=2和圆的交点上。

 

不考虑圆h(x)的限制时,f(x)要得到极小值,需要往f(x)的负梯度(下降最快的方向)方向走,如下左图蓝色箭头。

如果考虑圆h(x)的限制,要得到极小值,需要沿着圆的切线方向走,如下右图红色粗箭头。注意这里的方向不是h(x)的梯度,而是正交于h(x)的梯度,h(x)梯度如下右图的红色细箭头。

在极小值点,f(x)和h(x)的等高线是相切的。

 

 

容易发现,在关键的极小值点处,f(x)的负梯度和h(x)的梯度在同一直线上,如下图左下方critical point的蓝色和红色箭头所示。

注意图中所示是同向的,但是这里并不一定是同向,有可能反向(因为等式约束h(x)=0,把h(x)变成-h(x)求解是一样的,这个时候h(x)的梯度就相反了)

 

由此可知,在极小值点,h(x)和f(x)的梯度在同一线上,有

所以,对于f(x)和h(x)而言,只要满足上面这个式子,同时使得h(x) = 0,解得的x就是我们要求的极小值点(或极大值点,为了简单起见我们只讨论极小值点)

要做到这一点,可以构造一个拉格朗日函数,对函数令偏导等于0求解,恰好等价于“满足上面这个式子,同时使得h(x) = 0",原问题转化为对拉格朗日函数求极值问题,这就是拉格朗日乘子法,如下图所示(注意一下这个μ的正负变化)。

 

 

特别注意:优化问题是凸优化的话,通过上图两个条件求得的解就是极小值(而且是全局极小)。

不是凸优化的话,这两个条件只是极小值点的必要条件,还需要附加多一个正定的条件才能变成充要条件,如下图所示。

 

 

4 不等式约束

对于不等式约束g(x)<=0,和等式约束h(x)=0不一样,h(x)=0可以在平面上画出一条等高线,而g(x)<=0是一个区域,很多个等高线堆叠而成的一块区域,我们把这块区域称为可行域。

不等式约束分两种情况来讨论,第一种是(不考虑可行域限制时的)极小值点落在可行域内(不包含边界),第二种是(不考虑可行域限制时的)极小值点落在可行域外(包含边界)。

下面举两个例子来解释这两种情况,然后总结两种情况给出转换求解。

 

4.1 极小值点落在可行域内(不包含边界)

考虑目标函数$ f(x) = x_1^2 + x_2^2 $,不等值约束$g(x) = x_1^2 + x_2^2 - 1$,显然f(x)的极小值为原点(0,0),落在可行域内。可行域以原点为圆心,半径为1。

这种情况约束不起作用,考虑极小值点x*,这个时候,g(x*) < 0,f(x*)的梯度等于0。

 

4.2 极小值点落在可行域外(包含边界)

考虑目标函数$ f(x) = (x_1 - 1.1)^2 + (x_2 + 1.1)^2 $ ,不等值约束$ g(x) = x_1^2 + x_2^2 - 1 $,显然f(x)的极小值为原点(1.1, -1.1),落在可行域外。可行域以原点为圆心,半径为1。

这种情况约束起作用,要考虑求解f(x)在可行域内的极小值点。

对于f(x)而言要沿着f(x)的负梯度方向走,才能走到极小值点,如下图的蓝色箭头。

这个时候g(x)的梯度往区域外发散,如下图红色箭头。

显然,走到极小值点的时候,g(x)的梯度和f(x)的负梯度同向。因为极小值点在边界上,这个时候g(x)等于0。

 

 

 

4.3 总结

极小值点落在可行域内(不包含边界):这个时候可行域的限制不起作用,相当于没有约束,直接f(x)的梯度等于0求解,这个时候g(x极小值点)<0(因为落在可行域内)。

极小值点落在可行域外(包含边界):可行域的限制起作用,极小值点应该落在可行域边界上即g(x)=0,类似于等值约束,此时有g(x)的梯度和f(x)的负梯度同向。

 

总结以上两种情况,可以构造拉格朗日函数来转换求解问题。

对于不等式约束的优化,需要满足三个条件,满足这三个条件的解x*就是极小值点。

这三个条件就是著名的KKT条件,它整合了上面两种情况的条件。

特别注意:优化问题是凸优化的话,KKT条件就是极小值点(而且是全局极小)存在的充要条件。

不是凸优化的话,KKT条件只是极小值点的必要条件,不是充分条件,KKT点是驻点,是可能的极值点。也就是说,就算求得的满足KKT条件的点,也不一定是极小值点,只是说极小值点一定满足KKT条件。

 

 

不是凸优化的话,还需要附加多一个正定的条件才能变成充要条件,如下图所示。

 

5 约束优化总结

拓展一下,对于同时有多个等式约束和多个不等式约束,构造的拉格朗日函数就是在目标函数后面把这些约束相应的加起来,KKT条件也是如此,如下图所示。

 

6 优化问题的总结

简单总结一下,考虑凸优化问题。

对于无约束的优化问题,直接令梯度等于0求解。

对于含有等式约束的优化问题,拉格朗日乘子法,构造拉格朗日函数,令偏导为0求解。

对于含有不等式约束的优化问题,同样构造拉格朗日函数,利用KKT条件求解。

对于含有约束的优化问题,还可以转化为对偶问题来求解,下篇讲述一下拉格朗日对偶性的问题http://www.cnblogs.com/liaohuiqiang/p/7805954.html

 

7 参考资料

瑞典皇家理工学院(KTH)“统计学习基础”课程的KKT课件:http://www.csc.kth.se/utbildning/kth/kurser/DD3364/Lectures/KKT.pdf

这门“统计学习基础”的schedule上有一些其它课件:http://www.csc.kth.se/utbildning/kth/kurser/DD3364/Schedule.php

posted @ 2017-11-09 21:52  PilgrimHui  阅读(...)  评论(... 编辑 收藏