Mysql索引详解

一:索引介绍

1:什么是索引?

  索引就好比是一本书的目录,它会让你更快的找到内容,让你获取数据更有目的性,从而提高数据库检索数据的性能。

2:索引作用:

  优化查询 select

  查询的三种情况:①缓存查询 redis

          ②全表扫描

          ③索引扫描

  查询效率  ① > ③  > ②

  注意事项:根据业务需要建立索引,不宜建过多索引,否则会影响insert效率,因为在insert的时候,树要重新排序,索引过多耗时过久,影响效率

二:索引种类

索引的种类

  Btree (btree  b+tree  b*tree)    mysql默认用的是Btree

  Rtree

  HASH

  FullText

 

1: b+tree:

 

2: b*tree:

 

基本原理同b+tree,不同的是在枝节点,也存入了相邻枝节点的地址,目的也是为了方便范围查询

 

三:Btree分类

一:btree分类(这里的分类不涉及btree  b+tree  b*tree  都指btree)

1:聚集索引

  基于主键,自动生成的,一般是建表时创建主键.如果没有主键,自动选择唯一键做为聚集索引 (主键一般设置为id列,理由是int类型所占的内存小,而叶子节点大小是固定的,如果用string类型来来作为主键设置索引,同一叶子节点存储的索引数量少了,那么必然会产生更多的叶子节点存储索引,这样整个树的高度就会变高,查询效率就会变慢)

2:辅助索引

  人为创建的(普通,覆盖),如有大量这样的select条件: where  name = “xxx”  那么就可以根据name字段创建辅助索引,叶子节点存储该列值和该列值的id值(聚集索引值),存储该列值的id值是为了回表查询,如需求不仅仅是查找到名字,还要查找age,gender,那么这个时候就需要根据id值回表查询,扫描聚集索引建的树。如果建立的是覆盖索引(name,age,gender三个字段)此时就没有回表的需要。

3:唯一索引

  人为创建(普通索引,聚集索引)

 

二:聚集索引和辅助索引的对比

1:聚集索引

  叶子结点,按照主键列的顺序,存储的是整行数据,就是真正的数据页

2:辅助索引

  叶子结点,列值排序之后,存储到叶子结点+对应的主键的值,便于回表查询

 

四:索引管理

一:辅助索引(BTREE)
怎么生成的:
  根据创建索引时,指定的列的值,进行排序后,存储的叶子节点中
好处:
  1.优化了查询,减少cpu mem IO消耗
  2.减少的文件排序

二:索引相关操作

创建普通辅助索引(MUL)
  alter table blog_userinfo add key idx_email(email);
  create index idx_phone on blog_userinfo(phone);
查看索引
  desc blog_userinfo;
  show index from blog_userinfo;
删除索引
  alter table blog_userinfo drop index idx_email;
  drop index idx_phone on blog_userinfo;

前缀索引  (取密码前20位即可保证索引唯一,可节省空间,提升效率)
  select count(*),substring(password,1,20) as sbp from blog_userinfo group by sbp;
  alter table blog_userinfo add index idx(password(10));

唯一键索引(UNI,如果有重复值是创建不了的)
  alter table blog_userinfo add unique key uni_email(email);

覆盖索引(联合索引)

  alter table t1 add index idx_gam(gender,age,money); 查询量越多的条件往前放
  作用:不需要回表查询,不需要聚集索引,所有查询的数据都从辅助索引中获取

 

五:explain(desc)命令的应用

一:explain命令作用:

  获取优化器选择后的执行计划

 

explain select * from city where countrycode='CHN'\G

*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: city
type: ref
possible_keys: CountryCode,idx_co_po
key: CountryCode
key_len: 3
ref: const
rows: 1
Extra: Using index condition
1 row in set (0.00 sec)

 

需要关注的重要字段:

1:type: 查询类型
  作用:
    1. 可以判断出,全表扫描还是索引扫描(ALL就是全表扫描,其他的就是索引扫描)
    2. 对于索引扫描来讲,又可以细划分,可以判断是哪一种类的索引扫描
  type的具体类型介绍:
    ALL:全表扫描
      select * from t1;
    Index:全索引扫描
      例子:
      desc select countrycode from city ;
    range:索引范围扫描,包含以下字段的sql
      where > < >= <=
      in or between and
      like 'CH%'
      优化:
        in 或者 or 改写成 union

        select * from city where countrycode in ('CHN','USA')   走range扫描


        select * from city where countrycode='CHN'
        union all
        select * from city where countrycode='USA';   走ref扫描  性能更好
    ref:辅助索引的等值查询
      select * from city where countrycode='CHN'
    eq_ref: 多表链接查询(join on )
    const ,system :主键或唯一键等值查询

    (以上各种type类型扫描,自上而下性能不断增强,一般优化到range以上的性能才有意义)

 

2:Extra:额外信息  重点关注using filesort

  using filesort: 文件排序       
  
一旦涉及到排序相关  可以先建立索引排好序  就不用执行sql时候重复进行排序了 可以降低CPU压力  将order by group by distinct 后的列和where条件列建立联合索引

 

3:不需要重点关注的字段:

  possible_keys: CountryCode,idx_co_po ---->可能会走的索引
  key: CountryCode ---->真正走的索引
 

六:建立索引的原则

一、数据库索引的设计原则:

为了使索引的使用效率更高,在创建索引时,必须考虑在哪些字段上创建索引和创建什么类型的索引。
那么索引设计原则又是怎样的?

0.建表时一定要有主键,如果相关列可以作为主键,做一个无关列

1.选择唯一性索引
唯一性索引的值是唯一的,可以更快速的通过该索引来确定某条记录。
例如,学生表中学号是具有唯一性的字段。为该字段建立唯一性索引可以很快的确定某个学生的信息。
如果使用姓名的话,可能存在同名现象,从而降低查询速度。

主键索引和唯一键索引,在查询中使用是效率最高的。

select count(*) from world.city;
select count(distinct countrycode) from world.city;
select count(distinct countrycode,population ) from world.city;

注意:如果某字段重复值较多,但是经常以此条件来进行查询,可以考虑采用联合索引

2.为经常需要排序、分组和联合操作的字段建立索引
经常需要ORDER BY、GROUP BY,join on等操作的字段,排序操作会浪费很多时间。
如果为其建立索引,可以有效地避免排序操作。

3.为常作为where查询条件的字段建立索引
如果某个字段经常用来做查询条件,那么该字段的查询速度会影响整个表的查询速度。因此,
为这样的字段建立索引,可以提高整个表的查询速度。
  3.1 经常查询
  3.2 列值的重复值少(业务层面调整)

注:如果经常作为条件的列,重复值特别多,可以建立联合索引。


4.尽量使用前缀来索引
如果索引字段的值很长,最好使用值的前缀来索引。例如,TEXT和BLOG类型的字段,进行全文检索
会很浪费时间。如果只检索字段的前面的若干个字符,这样可以提高检索速度。

 

------------------------以上的是重点关注的,以下是能保证则保证的--------------------

5.限制索引的数目
索引的数目不是越多越好。每个索引都需要占用磁盘空间,索引越多,需要的磁盘空间就越大。
修改表时,对索引的重构和更新很麻烦。越多的索引,会使更新表变得很浪费时间。

6.删除不再使用或者很少使用的索引(percona toolkit)
表中的数据被大量更新,或者数据的使用方式被改变后,原有的一些索引可能不再需要。数据库管理
员应当定期找出这些索引,将它们删除,从而减少索引对更新操作的影响。

7.大表加索引,要在业务不繁忙期间操作

 

建索引原则总结:
(1) 必须要有主键,如果没有可以做为主键条件的列,创建无关列
(2) 经常做为where条件列 order by group by join on的条件(业务:产品功能+用户行为)
(3) 最好使用唯一值多的列作为索引,如果索引列重复值较多,可以考虑使用联合索引
(4) 列值长度较长的索引列,我们建议使用前缀索引.
(5) 降低索引条目,一方面不要创建没用索引,不常使用的索引清理,percona toolkit
(6) 索引维护要避开业务繁忙期

 

不走索引的情况(开发时不要出现以下的情况,否则建立再好的索引也没效果)

重点关注:
1) 没有查询条件,或者查询条件没有建立索引

select * from tab; 全表扫描。
select * from tab where 1=1;

在业务数据库中,特别是数据量比较大的表。
是没有全表扫描这种需求。

1、对用户查看是非常痛苦的。
2、对服务器来讲毁灭性的。

(1)select * from tab;

SQL改写成以下语句:
selec * from tab order by price limit 10 需要在price列上建立索引


(2)
select * from tab where name='zhangsan' name列没有索引

改:
1、换成有索引的列作为查询条件
2、将name列建立索引




2) 查询结果集是原表中的大部分数据,应该是25%以上。

查询的结果集,超过了总数行数25%,优化器觉得就没有必要走索引了。

假如:tab表 id,name id:1-100w ,id列有索引

select * from tab where id>500000;

如果业务允许,可以使用limit控制。

怎么改写 ?
结合业务判断,有没有更好的方式。如果没有更好的改写方案
尽量不要在mysql存放这个数据了。放到redis里面。


3) 索引本身失效,统计数据不真实 (现在mysql已经修复这些bug了)
索引有自我维护的能力。
对于表内容变化比较频繁的情况下,有可能会出现索引失效。


4) 查询条件使用函数在索引列上,或者对索引列进行运算,运算包括(+,-,*,/,! 等)
例子:
错误的例子:select * from test where id-1=9;
正确的例子:select * from test where id=10;

避免以下操作:
算术运算
函数运算
desc select * from blog_userinfo where DATE_FORMAT(last_login,'%Y-%m-%d') >= '2019-01-01';

子查询

 

5)隐式转换导致索引失效.这一点应当引起重视.也是开发中经常会犯的错误. (重点关注,十分容易忽略)

select * from t1 where telnum=110;  


这样会导致索引失效. 错误的例子:
------------------------
mysql> alter table tab add index inx_tel(telnum);
Query OK, 0 rows affected (0.03 sec)
Records: 0 Duplicates: 0 Warnings: 0

mysql>
mysql> desc tab;
+--------+-------------+------+-----+---------+-------+
| Field | Type | Null | Key | Default | Extra |
+--------+-------------+------+-----+---------+-------+
| id | int(11) | YES | | NULL | |
| name | varchar(20) | YES | | NULL | |
| telnum | varchar(20) | YES | MUL | NULL | |
+--------+-------------+------+-----+---------+-------+
3 rows in set (0.01 sec)


mysql> select * from tab where telnum='1333333';
+------+------+---------+
| id | name | telnum |
+------+------+---------+
| 1 | a | 1333333 |
+------+------+---------+
1 row in set (0.00 sec)

mysql> select * from tab where telnum=1333333;
+------+------+---------+
| id | name | telnum |
+------+------+---------+
| 1 | a | 1333333 |
+------+------+---------+
1 row in set (0.00 sec)

mysql> explain select * from tab where telnum='1333333';
+----+-------------+-------+------+---------------+---------+---------+-------+------+-----------------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
+----+-------------+-------+------+---------------+---------+---------+-------+------+-----------------------+
| 1 | SIMPLE | tab | ref | inx_tel | inx_tel | 63 | const | 1 | Using index condition |
+----+-------------+-------+------+---------------+---------+---------+-------+------+-----------------------+
1 row in set (0.00 sec)

mysql> explain select * from tab where telnum=1333333;
+----+-------------+-------+------+---------------+------+---------+------+------+-------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
+----+-------------+-------+------+---------------+------+---------+------+------+-------------+
| 1 | SIMPLE | tab | ALL | inx_tel | NULL | NULL | NULL | 2 | Using where |
+----+-------------+-------+------+---------------+------+---------+------+------+-------------+
1 row in set (0.00 sec)


mysql> explain select * from tab where telnum=1555555;
+----+-------------+-------+------+---------------+------+---------+------+------+-------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
+----+-------------+-------+------+---------------+------+---------+------+------+-------------+
| 1 | SIMPLE | tab | ALL | inx_tel | NULL | NULL | NULL | 2 | Using where |
+----+-------------+-------+------+---------------+------+---------+------+------+-------------+
1 row in set (0.00 sec)

mysql> explain select * from tab where telnum='1555555';
+----+-------------+-------+------+---------------+---------+---------+-------+------+-----------------------+
| id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra |
+----+-------------+-------+------+---------------+---------+---------+-------+------+-----------------------+
| 1 | SIMPLE | tab | ref | inx_tel | inx_tel | 63 | const | 1 | Using index condition |
+----+-------------+-------+------+---------------+---------+---------+-------+------+-----------------------+
1 row in set (0.00 sec)

mysql>

以上结果分析:

可以看到使用sql  select * from tab where telnum='1555555' 进行查询时,走的是ref索引,而使用sql select * from tab where telnum=1555555

进行查询时走的是全表扫描,理由是建表的时候,telnum字段的类型是varchar  使用select * from tab where telnum=1555555 进行查询时,

 mysql会对条件telnum=1555555 进行一个转换,将其转换成字符串类型,再走全表扫描。

 

---------------------------------------

 

6)    <> ,not in 不走索引

EXPLAIN SELECT * FROM teltab WHERE telnum <> '110';
EXPLAIN SELECT * FROM teltab WHERE telnum NOT IN ('110','119');
------------
mysql> select * from tab where telnum <> '1555555';
+------+------+---------+
| id | name | telnum |
+------+------+---------+
| 1 | a | 1333333 |
+------+------+---------+
1 row in set (0.00 sec)

mysql> explain select * from tab where telnum <> '1555555';


-----
单独的>,<,in 有可能走,也有可能不走,和结果集有关,尽量结合业务添加limit
or或in 尽量改成union

EXPLAIN SELECT * FROM teltab WHERE telnum IN ('110','119');
改写成:

EXPLAIN SELECT * FROM teltab WHERE telnum='110'
UNION ALL
SELECT * FROM teltab WHERE telnum='119'

-----------------------------------


7) like "%_" 百分号在最前面不走

EXPLAIN SELECT * FROM teltab WHERE telnum LIKE '31%' 走range索引扫描

EXPLAIN SELECT * FROM teltab WHERE telnum LIKE '%110' 不走索引


%linux%类的搜索需求,可以使用elasticsearch 专门做搜索服务的数据库产品


8) 单独引用联合索引里非第一位置的索引列.作为条件查询时不走索引.
列子:
复合索引:

DROP TABLE t1
CREATE TABLE t1 (id INT,NAME VARCHAR(20),age INT ,sex ENUM('m','f'),money INT);

ALTER TABLE t1 ADD INDEX t1_idx(money,age,sex);

DESC t1
SHOW INDEX FROM t1

走索引的情况测试:
EXPLAIN SELECT NAME,age,sex,money FROM t1 WHERE money=30 AND age=30 AND sex='m';
EXPLAIN SELECT NAME,age,sex,money FROM t1 WHERE money=30 AND age=30 ;
EXPLAIN SELECT NAME,age,sex,money FROM t1 WHERE money=30 AND sex='m'; ----->部分走索引
不走索引的:
EXPLAIN SELECT NAME,age,sex,money FROM t1 WHERE age=20
EXPLAIN SELECT NAME,age,sex,money FROM t1 WHERE age=30 AND sex='m';
EXPLAIN SELECT NAME,age,sex,money FROM t1 WHERE sex='m';

posted on 2019-02-21 17:48  叶杨森  阅读(217)  评论(0)    收藏  举报