前段时间工作中需要用到中文分词的软件,于是上网找了找。
发现中科院提供的ictclas工具是比较不错的。

可惜没有官方正式的java版本,有一个网友sinbo自己改写了一个java版本。

但在使用过程中发现问题很多。其中最大的问题,就是数据结构不够合适,统统采用arraylist来存储,结果造成了可悲的内存溢出问题。

我觉得这是对原来代码的理解不够造成的。

于是自己动手,从原来的C++版本,基本上照搬了一个java版本出来。

初步测试是通过的。先放上来给大家看看,提提意见。

算法和原来的C++程序是完全一样的。

执行com.icutword.result.CResultTest这个类就可以了,传入一个gb2312格式的文本文件。

以后会考虑持续进行改进修改。


请访问http://liujunsong.iteye.com来下载最新Java版本源代码。

 

posted on 2012-07-03 09:56  liujunsong  阅读(240)  评论(0编辑  收藏  举报