2019年6月24日
【机器学习之数学】03 有约束的非线性优化问题——拉格朗日乘子法、KKT条件、投影法
摘要： 梯度下降法、最速下降法、牛顿法等迭代求解方法，都是在无约束的条件下使用的，而在有约束的问题中，直接使用这些梯度方法会有问题，如更新后的值不满足约束条件。如何处理有约束的优化问题？大致可以分为以下两种方式： 1. 将有约束的问题转化为无约束的问题，如拉格朗日乘子法和KKT条件； 2. 对无约束问题下的求解算法进行修改，使其能够运用在有约束的问题中，如对梯度下降法进行投影，使得更新后的值都满足约束条件。 阅读全文
posted @ 2019-06-24 20:14 wuliytTaotao 阅读(12200) 评论(3) 推荐(1) 编辑