机器学习(八)--------支持向量机 (Support Vector Machines)

与逻辑回归和神经网络相比,支持向量机或者简称 SVM,更为强大。
人们有时将支持向量机看作是大间距分类器。

这是我的支持向量机模型代价函数
这样将得到一个更好的决策边界

理解支持向量机模型的做法,即努力将正样本和负用最大间距分开。

实际上应用支持向量机的时候, 当𝐶不是非常大的时候, 它可以忽略掉一些异点影响得到更好的决策界。

𝐶=1/𝜆,因此: ,因此:
𝐶 较大时,相当于 𝜆 较小,可能会导致过拟合高方差。
𝐶 较小时,相当于𝜆 较大,可能会导致低拟合高偏差。

为了更好的构建高阶多项式,高斯核函数 (Gaussian Kernel)

下面是 支持向量机的两个参数 𝐶和𝜎的影响: 𝐶=1/𝜆
𝐶 较大时,相当于 𝜆较小,可能会导致过拟合高方差;
𝐶 较小时,相当于 𝜆较大,可能会导致低拟合高偏差;
𝜎较大时,可能会导致低方差高偏;
𝜎较小时,可能会导致低偏差高方。

大数据流动 专注于大数据实时计算,数据治理,数据可视化等技术分享与实践。
请在后台回复关键字下载相关资料。相关学习交流群已经成立,欢迎加入~

posted @ 2019-06-20 17:00  独孤风  阅读(233)  评论(0编辑  收藏  举报