基于mysql全文索引的深入理解

前言:本文简单讲述全文索引的应用实例,MYSQL演示版本5.5.24。
Q:全文索引适用于什么场合?
A:全文索引是目前实现大数据搜索的关键技术。
至于更详细的介绍请自行百度,本文不再阐述。
--------------------------------------------------------------------------------
一、如何设置?



如图点击结尾处的{全文搜索}即可设置全文索引,不同MYSQL版本名字可能不同。

二、设置条件
1.表的存储引擎是MyISAM,默认存储引擎InnoDB不支持全文索引(新版本MYSQL5.6的InnoDB支持全文索引)
2.字段类型:char、varchar和text

三、配置
my.ini配置文件中添加
# MySQL全文索引查询关键词最小长度限制
[mysqld]
ft_min_word_len = 1
保存后重启MYSQL,执行SQL语句

1 SHOW VARIABLES
View Code

查看ft_min_word_len是否设置成功,如果没设置成功请确保
1.确认my.ini正确配置,注意不要搞错my.ini的位置
2.确认mysql已经重启,实在不行重启电脑
其他相关配置请自行百度。
注:重新设置配置后,已经设置的索引需要重新设置生成索引

四、SQL语法
首先生成temp表

 

 1 CREATE TABLE IF NOT EXISTS `temp` (
 2   `id` int(11) NOT NULL AUTO_INCREMENT,
 3   `char` char(50) NOT NULL,
 4   `varchar` varchar(50) NOT NULL,
 5   `text` text NOT NULL,
 6   PRIMARY KEY (`id`),
 7   FULLTEXT KEY `char` (`char`),
 8   FULLTEXT KEY `varchar` (`varchar`),
 9   FULLTEXT KEY `text` (`text`)
10 ) ENGINE=MyISAM  DEFAULT CHARSET=utf8 AUTO_INCREMENT=2 ;
11 
12 INSERT INTO `temp` (`id`, `char`, `varchar`, `text`) VALUES
13 (1, 'a bc 我 知道 1 23', 'a bc 我 知道 1 23', 'a bc 我 知道 1 23');
View Code

搜索`char`字段 'a' 值

1 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('a')
View Code

但是你会发现查询无结果?!
这时你也许会想:哎呀怎么回事,我明明按照步骤来做的啊,是不是那里漏了或者错了?
你不要着急,做程序是这样的,出错总是有的,静下心来,着急是不能解决问题的。

如果一个关键词在50%的数据出现,那么这个词会被当做无效词。
如果你想去除50%的现在请使用IN BOOLEAN MODE搜索

1 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('a' IN BOOLEAN MODE)
View Code

这样就可以查询出结果了,但是我们不推荐使用。
全文索引的搜索模式的介绍自行百度。

我们先加入几条无用数据已解除50%限制

 1 INSERT INTO  `temp` (
 2 `id` ,
 3 `char` ,
 4 `varchar` ,
 5 `text`
 6 )
 7 VALUES (
 8 NULL ,  '7',  '7',  '7'
 9 ), (
10 NULL ,  '7',  '7',  '7'
11 ), (
12 NULL ,  'a,bc,我,知道,1,23',  'a,bc,我,知道,1,23',  'a,bc,我,知道,1,23'
13 ), (
14 NULL ,  'x',  'x',  'x'
15 );
View Code

这时你执行以下SQL语句都可以查询到数据

1 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('a');
2 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('bc');
3 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('');
4 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('知道');
5 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('1');
6 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('23');
View Code

以下SQL搜索不到数据

1 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('b');
2 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('c');
3 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('');
4 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('');
5 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('2');
6 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('3');
View Code

如果搜索多个词,请用空格或者逗号隔开

1 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('a x');
2 SELECT * FROM `temp` WHERE MATCH(`char`) AGAINST ('a,x');
View Code

上面的SQL都可以查询到三条数据

五、分词
看到这里你应该发现我们字段里的值也是分词,不能直接插入原始数据。
全文索引应用流程:
1.接收数据-数据分词-入库
2.接收数据-数据分词-查询
现在有个重要的问题:怎么对数据分词?
数据分词一般我们会使用一些成熟免费的分词系统,当然如果你有能力也可以自己做分词系统,这里我们推荐使用SCWS分词插件。
首先下载
1.php_scws.dll  注意对应版本 目前最新的是对应5.3的版本
2.XDB词典文件
3.规则集文件

下载地址

 

安装scws
1.先建一个文件夹,位置不限,但是最好不要中文路径。
2.解压{规则集文件},把xdb、三个INI文件全部扔到 C:/Program Files/scws/etc
3.把php_scws.dll复制到你的PHP目录下的EXT文件夹里面   //确保 extension_dir正确 
4.在 php.ini 的末尾加入以下几行:
[scws]

; 注意请检查 php.ini 中的 extension_dir 的设定值是否正确, 否则请将 extension_dir 设为空,
; 再把 php_scws.dll 指定为绝对路径。

extension = php_scws.dll
scws.default.charset = utf8     //注意此处编码,php.ini(default_charset设置),php脚本编码,要保持一致 否则有可能乱码
scws.default.fpath = "C:/Program Files/scws/etc"

5.重启你的服务器
测试

重启之后,可以写一个php脚本,打印出phpinfo()信息,搜索scws是否被加载

1 <?php
2 $str="测试中文分词";
3 $so = scws_new();
4 $so->send_text($str);
5 $temp=$so->get_result();
6 $so->close();
7 var_dump($temp);
8 ?>
View Code

如果安装未成功,请参照官方说明文档
--------------------------------------------------------------------------------
这样我们就可以使用全文索引技术了。

posted @ 2015-05-07 12:02  JesseLucky  阅读(170)  评论(0)    收藏  举报