caicailiu

摘要：SVM（Support Vector Machine）翻译成中文是支持向量机，这里的“机（machine，机器）”实际上是一个算法。而支持向量则是指那些在间隔区边缘的训练样本点[1]。当初看到这个定义关于支持向量还是不清楚，直到前两天好像突然明白了。先看一种简单情形，二维问题的二分类问题，见下图把我们要求的东西叙述一下，就是图中的H1和H2。好了，描述H1和H2只不过是两条直线而已，而只要给出直线上两个点就可以确定一条直线，图中的两条直线只需要四个点即可，这四个点就是所谓的支持向量。 三维问题的二分类问题，无非是确定两个平面（六个点，即六个支持向量）。推而广之，那么n维问题的二分类问题，要求. 阅读全文

摘要：有些话只有经过思考或者经历，才能真正明白它的含义。 ----题记以前看书或者文章的时候，经常看到一个术语正则化项（regularation term），刚开始的时候不明白，后来查阅书籍，找到过答案。但是，仅仅是在印象中停留了一下而已。直到昨天翻看武汉大学出版社出版的黄象鼎等编著的《非线性数值分析的理论与方法》中关于适定性的概念，联系到最近看过的优化目标函数，好像终于明白了正则项的作用，简言之：正则项的加入使原来的非适定问题变为适定问题。 一个例子是，图像去噪的目标函数，如果只考虑一项（去噪后的图像的像素平均值和原图像一致），问题就有无穷多组解。但是，加上正则项（一般的是BV范数）以后，问题的. 阅读全文