jj千寻 - 博客园

摘要：目录 1.导出目标 2拉格朗日转换 3对偶问题：4求对偶问题5 求b6 得出模型6.1 f(x)的约束条件：7 核函数7.1 软间隔7.2 松弛变量：7.3 KKT约束 8 SMO求a8.1对偶问题上，上面已知对... 阅读全文

posted @ 2019-02-20 22:30 jj千寻阅读(3892) 评论(1) 推荐(0)

摘要：目录1.原理背景拉普拉斯修正半朴素贝叶斯贝叶斯网scikit-learn实现（GaussianNB，MultinomialNB和BernoulliNB）https://www.cnblogs.com/pinar... 阅读全文

posted @ 2019-02-20 22:11 jj千寻阅读(230) 评论(0) 推荐(0)

摘要：目录1.决策树2.ID3算法3.C4.5算法ID3/C4.5的防过拟合ID3/C4.5的缺失数据4.CART算法1）cart在分类方面：基于基尼系数：Gini(D)2）cart在回归方面：基于方差/标准差CART... 阅读全文

posted @ 2019-02-20 22:11 jj千寻阅读(244) 评论(0) 推荐(0)

摘要： class Node: def __init__(self): self.data = 0 self.right = None self.left = None ... 阅读全文

posted @ 2019-02-20 22:11 jj千寻阅读(83) 评论(0) 推荐(0)

摘要：三角不等式柯西-施瓦茨不等式任意两向量x,y∈Rn,有：成立；当且仅对有常数a,x=ay时，等式成立。阅读全文

posted @ 2019-02-19 09:39 jj千寻阅读(126) 评论(0) 推荐(0)

摘要： 1凸函数、凸集定义2.凸函数性质1）定义2）线性关系3）严格凸函数4）凹函数与凸函数性质相反5）判定二阶导>0/正定，凸函数；<0/负半定，凹函数。6）凸优化中，局部极小点就是全局极小点。 ... 阅读全文

posted @ 2019-02-19 09:38 jj千寻阅读(196) 评论(0) 推荐(0)

摘要： 1.形式2.投影法通常迭代形如：2.1当有约束时，这类算法迭代出的点很可能不满足约束，可以使用投影形式，然点投影到约束内，u,l为约束范围：这样对上面的迭代形式进行改进，然每次迭代后的点保持在约束内：2.2投影梯... 阅读全文

posted @ 2019-02-19 09:38 jj千寻阅读(251) 评论(0) 推荐(0)

摘要： 1.背景其它类型如极大化所有目标可以转换成上面类型。 2.帕累托解帕累托点：在所有函数上，没有其它解在比他更优（没有点支配它）。帕累托前沿：帕累托点组成的集合面。3.帕累托前沿求解帕累托解并不是一个，整个前沿面都... 阅读全文

posted @ 2019-02-19 09:38 jj千寻阅读(222) 评论(0) 推荐(0)

摘要： 1等式约束形式3切线空间、法线空间切线空间和法线空间互补。4拉格朗日中值定理条件标量λ称为拉格朗日乘子；图中x*在集合h(x)=0中，x*处h(x)的梯度与f(x)的梯度平行。4.1拉格朗日条件是必要条件但不是充... 阅读全文

posted @ 2019-02-19 09:38 jj千寻阅读(106) 评论(0) 推荐(0)

摘要： 1一般形式1.1起作用、不起作用约束1.2KKT条件在上面的包含等式、不等式的约束形式下：分析：u和g(x*)至少一个为0，既g起作用时u可以>=0，g不起作用时u=0几何解释：总结：g>=0的情况：u与g方向上... 阅读全文

posted @ 2019-02-19 09:38 jj千寻阅读(211) 评论(0) 推荐(0)

425776024