11 怎么给字符串加索引

11 怎么给字符串加索引

现在,几乎所有的系统都支持邮箱登录,如何在邮箱这样的字段上建立合理的索引?

用户表定义

mysql> create table SUser(

ID bigint unsigned primary key,

email varchar(64),

...

)engine=innodb;

由于要使用邮箱登录,所有业务代码中一定会出现类似这样的语句

mysql> select f1, f2 from SUser where email='xxx';

email上创建索引

mysql> alter table SUser add index index1(email); ##包含了每个记录的整个字符串

mysql> alter table SUser add index index2(email(6));##对于每个记录都是只取前6个字节

由于email(6)这个索引结构中每个邮箱字段都只取前6个字节,所以占用的空间会更小。但是同时可能会增加额外的记录扫描次数。

下面这个语句,分别看两个索引是怎么执行

select id,name,email from SUser where email='zhangssxyz@xxx.com';

如果使用是index1email整个字符串的索引结构),执行顺序

--1 从index1索引树找到满足的值是'zhangssxyz@xxx.com'的这个记录,取得id的值
--2 到主键上查询id的行,判断emai的值是正确的,将这行记录加入结果集
--3 取index1索引树刚刚查到的位置的下一条记录,发现已经不满足email的条件,循环结束。

这个过程中,只需要回主键索引取一次数据,所以系统认为只扫描了一行。

如果使用index2(email(6)索引结构),执行顺序

--1 从index2索引树找到满足索引值是email(‘zhangs’)的记录,找到第一个id1
--2 到主键上查到主键是id1的行,判断出email的值不是'zhangssxyz@xxx.com',这行记录丢弃
--3 取index2上刚刚查到的位置的下一条记录,发现仍然是’zhangs’,取出id2,再到主键索引上取证行后判断,这次值对了,将这行加入结果集
--4 重复上一步,直到index2上取到的值不是’zhangs’时,循环结束。

通过这个对比后,使用前缀索引后,可能会导致查询语句数据的次数变多,但是对于这个查询语句来说,如果定义的index2不是email(6),而是email(8),email8个字段来构建索引结构的话,满足查询的数据又会不一样。

也就是使用前缀索引,定义好长度,就可以做到既节省空间,又不用额外增加太多的查询成本

当要给字符串创建前缀索引时,关注的是区分度,区分度越高越好。

mysql> select count(distinct email) as L from SUser;

然后依次去不同长度的前缀来看,比如我们要看4~7个字节的前缀索引

mysql> select 
  count(distinct left(email,4))as L4,
  count(distinct left(email,5))as L5,
  count(distinct left(email,6))as L6,
  count(distinct left(email,7))as L7,
from SUser;

在返回l4-l7中,找出不小于l*95%的值

前缀索引对覆盖索引的影响

前面说了比如使用前缀索引可能会增加扫描行数,这会影响到性能,再看另外一个场景

select id,email from SUser where email='zhangssxyz@xxx.com';

与前面例子中的sql语句

select id,name,email from SUser where email='zhangssxyz@xxx.com';

相比,这个语句只要求返回idemail字段

所以,如果使用index1,就可以利用覆盖索引,从index1查到结果后就直接返回,不需要在到id索引取再查下一下。而如果使用index2的话,就要回到id索引去再判断email字段的值,即使定义email(18)这样,也要回到主键索引上去判断。

其他方式

第一种方式使用的是倒序存储,如果存储身份证的时候把它倒过来,每次查的时候这么写

mysql> select field_list from t where id_card = reverse('input_id_card_string');

由于身份证号码后6位没有地址码这样的重复逻辑,所以这6位的区分度很大,足够提供区分度,当然也要使用distinct方法验证。

第二种方式使用的是hash字段,可以在表上在创建一个整数字段,来保存身份证的校验码,同时在这个字段上创建索引。

mysql> alter table t add id_card_crc int unsigned, add index(id_card_crc);

每次插入新纪录,用crc32()这个函数得到校验码填到这个字段,由于校验码可能存在冲突,也就是说两个不同的身份证号通过crc32函数得到的结果可能是相同的,所以子啊查询语句where部分要判断id_card的值是否精确相同。

mysql> select field_list from t where id_card_crc=crc32('input_id_card_string') and id_card='input_id_card_string'

上面的倒序存储和hash字段方法的异同

--相同点是,都不支持返回查询,

区别

--1 从占用的额外空间来说,倒序存储方式在主键索引上,不会消耗额外的,而hash会新增一个字段,如果倒序方式使用的前缀自己在长一点,也差不多。

--2 cpu消耗方面,倒序方式每次写和读都需要额外调用一次reverse函数,而hash字段的方式额外调用一次crc32()函数,如从函数计算的复杂度来看,reverse额外消耗的会更小一些。

--3 从查询效率上看,使用hash字段方式的查询性能相对更稳定一些。

在实际应用中,要根据业务字段的特点来选择使用哪一种方式

posted @ 2019-08-07 18:14  春困秋乏夏打盹  阅读(334)  评论(0编辑  收藏  举报