初步体验libsvm用法1(官方自带工具)

      在机器学习和模式识别领域,svm理论使用得很广泛,其理论基础是统计学习,但是如果我们的研究方向不是svm理论,我们只是利用已有的svm工具来对我们的任务进行分类和回归,那么libsvm是一个不错的选择。

      那么libsvm到底怎么使用呢?研究了一下,发现使用起来不是很复杂,这一小结就说说到底怎么简单的体会libsvm吧。

 

一、 首先准备几个工具:

      Libsvm下载 http://www.csie.ntu.edu.tw/~cjlin/libsvm/

      Gnuplot下载:http://www.gnuplot.info/

  Python下载:  http://www.python.org/getit/

  这里我下的libsvm版本为3.1.2,gnuplot版本为4.6.0,python版本为2.7.3。

  其中libsvm的作用就不用多介绍了,gunplot是图像绘画工具,可以将数据可视化,python是一种程序编程语言,很方便,所以libsvm和她走得比较近。

  我将libsvm解压(即相当于安装)在C:\Program Files\libsvm-3.12下

  Gnuplot安装在C:\Program Files\gnuplot下

  Python安装在C:\Program Files\Python27下。

 

二、准备环境

     我在桌面建立了一个svm_test文件夹,将常用的几个二进制文件拷贝到该目录下,后面要用的。这些二进制文件包括svm-predict.exe,svm-scale.exe,svm-toy.exe,svm-train.exe,python.exe以及配置文件easy.py和grid.py。这些文件就在刚安装的几个软件目录中去找,这里就不列举了。如下所示:

  

  当然并不是每一次分类和回归这些都要用到这些文件,可以自己选择,此处只是做个通用的介绍。

  用文本文件打开grid.py,改变一下配置环境,在else语句后面,你可以根据自己的环境改一下。如下:

  

  同理,easy.py也改变一下,我的改后为:

  

 

、准备训练的数据:

  为了熟悉libsvm环境,这里我用libsvm自带svm-toy.exe来产生数据,打开svm-toy.exe显示如下:  

       

  注意到状态行的几个按钮,你自己摸索下就知道是什么用了,无需介绍。下面我产生数据如下所示:

  

  点击下面的run按钮,结果显示如下:

  

  点击save将数据保存,我保存为before_train。

 

四、准备训练参数

  因为svm训练需要手动调整参数,一般采用默认的情况即可,这里还是为了体验libsvm,可以用libsvm自带的grid.py来自动暴力搜索最好的参数c和g,c表示惩罚系数,g表示  gamma系数。所以我们在命令行终端输入:

  

  这是会出现如下的界面:

  

  等运行完毕后在命令行终端会显示128.0 0.5 91.4141

  前面那2个参数就是c和g,第三个不用管,也就是说如果我们c用128,g用0.5来训练svm数据效果是最好的。

  但是在此过程中如果出现assertionerror:svm-train executable not found的错误提示:

  

   这原因是前面的grid.py没有更改与自己安装文件相对应的路径。其实我改的那些路径也未必是安装路径,因为我已经把需要用的几个exe文件复制出来了,这样很方便,换别人的电脑这些配置不用改变太多。

五、训练数据:

  在命令行输入svm-train .exe –c 128 –g 0.5 before_train after_train.model

  

  运行结果如下:

  

  并且在相应的svm_test中输出了一个文件after_train.model。

 

六、预测数据。

  其实我们开始就预测了下数据,只是我们用的是默认的模型,参数是-t 2 -c 100,为了对比两者的效果,我们先采用默认参数来训练:

在命令行输入:svm-train.exe before_train default_predict.model

  

  然后用默认参数训练出的模型进行预测:

  在命令行输入:svm-predict.exe before_train default_predict.model after_train_default

  

  其结果显示如下:

  

  由此可见其准确率只有85.8586%.

   下面我们采用用grid.py训练出的最佳参数来预测下模型,其过程和结果如下所示:

  

  由此可见准确率提高到了91.6667%(但要注意这不一定很好,why?因为这是训练数据,有可能过拟合。)

用精确模型预测后的数据可视化显示如下:

  

   肉眼感觉不出太大的区别,不过数据摆在那里,说明grid.py还是很牛叉的!

   好吧,libsvm使用的简单体验过程就先到这里。

 

 

 

 

 

作者:tornadomeet 出处:http://www.cnblogs.com/tornadomeet 欢迎转载或分享,但请务必声明文章出处。 (新浪微博:tornadomeet,欢迎交流!)
posted on 2012-04-12 14:57  tornadomeet  阅读(18777)  评论(6编辑  收藏  举报

阿萨德发斯蒂芬