SVM细节
1 SVM为什么要讲原始问题转化为对偶问题
1 对偶问题将原始问题中的约束转化为对偶问题中的等式约束
2 方便核函数的引入
3 改变了问题的复杂度。
2 linear svm为什么要设置bound为1
因为映射可以随便放缩,没个标准就没法确定放缩程度,所以让最近的点距离为1,就确定了放缩。
3 hinge loss的意义
hinge loss就是l(x)=max(0,1-ty),t是label 属于-1或者1,y是predict,预测结果从0分界,在训练模型时,我们不希望模型对自己的结果过度自信,例如预测类别是正例1,他预测了100,虽然模型确实知道它是正例,但却过度自信,我们希望一旦这一例训练成功,就不继续训练它了。
4 KKT


浙公网安备 33010602011771号