MySql进阶技巧&查询优化

来源

转载自以下两篇文章(重新整理、排版,部分删改):

总结

进阶技巧的目的是为了提高sql查询性能,总的来说归结为两大要点:

  • 确保索引的使用
  • 尽可能避免使用中间表

以下为原文(略有修改)

SQL 的书写规范

在介绍一些技巧之前,有必要强调一下规范,这一点我发现工作中经常被人忽略,其实遵循好的规范可读性会好很多,应该遵循哪些规范呢

  1. 表名要有意义,且标准 SQL 中规定表名的第一个字符应该是字母。
  2. 注释,有单行注释和多行注释,如下
-- 单行注释
-- 从SomeTable中查询col_1 
SELECT col_1
  FROM SomeTable;

/*
多行注释
从 SomeTable 中查询 col_1 
*/
SELECT col_1
  FROM SomeTable;

多行注释很多人不知道,这种写法不仅可以用来添加真正的注释,也可以用来注释代码,非常方便
3. 缩进

就像写 Java,Python 等编程语言一样 ,SQL 也应该有缩进,良好的缩进对提升代码的可读性帮助很大,以下分别是好的缩进与坏的缩进示例

-- 好的缩进
SELECT col_1, 
    col_2, 
    col_3,
    COUNT(*) 
  FROM tbl_A
 WHERE col_1 = 'a'
   AND col_2 = ( SELECT MAX(col_2)
                   FROM tbl_B
                  WHERE col_3 = 100 )
 GROUP BY col_1,
          col_2,
          col_3


-- 坏的示例
SELECT col1_1, col_2, col_3, COUNT(*)
FROM   tbl_A
WHERE  col1_1 = 'a'
AND    col1_2 = (
SELECT MAX(col_2)
FROM   tbl_B
WHERE  col_3 = 100
) GROUP BY col_1, col_2, col_3
  1. 空格

代码中应该适当留有一些空格,如果一点不留,代码都凑到一起, 逻辑单元不明确,阅读的人也会产生额外的压力,以下分别是是好的与坏的示例

-- 好的示例
SELECT col_1
  FROM tbl_A A, tbl_B B
 WHERE ( A.col_1 >= 100 OR A.col_2 IN ( 'a', 'b' ) )
   AND A.col_3 = B.col_3;

-- 坏的示例
SELECT col_1
  FROM tbl_A A,tbl_B B
 WHERE (A.col_1>=100 OR A.col_2 IN ('a','b'))
   AND A.col_3=B.col_3;
  1. 大小写

关键字使用大小写,表名列名使用小写,如下

SELECT col_1, col_2, col_3,
    COUNT(*)
  FROM tbl_A
 WHERE col_1 = 'a'
   AND col_2 = ( SELECT MAX(col_2)
                   FROM tbl_B
                  WHERE col_3 = 100 )
 GROUP BY col_1, col_2, col_3

花了这么多时间强调规范,有必要吗,有!好的规范让代码的可读性更好,更有利于团队合作,之后的 SQL 示例都会遵循这些规范。

SQL 的一些进阶使用技巧

巧用 CASE WHEN 进行统计

图示.img

SELECT CASE pref_name
      WHEN '长沙' THEN '湖南' 
      WHEN '衡阳' THEN '湖南'
      WHEN '海口' THEN '海南' 
      WHEN '三亚' THEN '海南'
    ELSE '其他' END AS district,
    SUM(population) 
FROM PopTbl
GROUP BY district;

巧用 CASE WHEN 进行更新

图示.img

现在公司出台了一个奇葩的规定:

  • 对当前工资为 1 万以上的员工,降薪 10%。
  • 对当前工资低于 1 万的员工,加薪 20%。
    一些人不假思索可能写出了以下的 SQL:
--条件1
UPDATE Salaries
SET salary = salary * 0.9 WHERE salary >= 10000;
--条件2
UPDATE Salaries
SET salary = salary * 1.2
WHERE salary < 10000;

这么做其实是有问题的, 什么问题,对小明来说,他的工资是 10500,执行第一个 SQL 后,工资变为 10500 * 0.9 = 9450, 紧接着又执行条件 2, 工资变为了 9450 * 1.2 = 11340,反而涨薪了!

如果用 CASE WHEN 可以解决此类问题,如下:

UPDATE Salaries
SET salary = CASE WHEN salary >= 10000 THEN salary * 0.9
WHEN salary < 10000 THEN salary * 1.2
ELSE salary END;

巧用 HAVING 子句

一般 HAVING 是与 GROUP BY 结合使用的,但其实它是可以独立使用的, 假设有一个表,第一列 seq 叫连续编号,但其实有些编号是缺失的,怎么知道编号是否缺失呢:

SELECT '存在缺失的编号' AS gap
  FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

自连接

删除重复行

SELECT '存在缺失的编号' AS gap
  FROM SeqTbl
HAVING COUNT(*) <> MAX(seq);

排序

在 db 中,我们经常需要按分数,人数,销售额等进行排名,有 Oracle, DB2 中可以使用 RANK 函数进行排名,不过在 MySQL 中 RANK 函数未实现,这种情况我们可以使用自连接来实现, 如对以下 Products 表按价格高低进行排名:

name price 
----- ------ 
苹果     50     
葡萄     50  
橘子    100     
西瓜     80      
柠檬     30     
香蕉     50     

使用自连接:

-- 排序从 1 开始。如果已出现相同位次,则跳过之后的位次 
SELECT P1.name,
       P1.price,
       (SELECT COUNT(P2.price)
          FROM Products P2
         WHERE P2.price > P1.price) + 1 AS rank_1
  FROM Products P1 
  ORDER BY rank_1;

结果:

name price rank 
----- ------ ------ 
橘子    100     1 
西瓜     80     2 
苹果     50     3 
葡萄     50     3 
香蕉     50     3 
柠檬     30     6

巧用 COALESCE 函数

此函数作用返回参数中的第一个非空表达式,当我们在展示结果的时候不想展示 null,而想展示'N/A', 可以这么做:

SELECT 
    COALESCE(col, 'N/A')
  FROM
    tb;

SQL 性能优化技巧

参数是子查询时,使用 EXISTS 代替 IN

如果 IN 的参数是(1,2,3)这样的值列表时,没啥问题,但如果参数是子查询时,就需要注意了。比如,现在有如下两个表:
图示.img

现在我们要查出同时存在于两个表的员工,即田中和铃木,则以下用 INEXISTS 返回的结果是一样,但是用 EXISTS 的 SQL 会更快:

-- 慢
SELECT * 
  FROM Class_A
WHERE id IN (SELECT id 
               FROM  CLASS_B);

-- 快
SELECT *
  FROM Class_A A 
 WHERE EXISTS
(SELECT * 
   FROM Class_B  B
  WHERE A.id = B.id);

为啥使用 EXISTS 的 SQL 运行更快呢,有两个原因:

  • 可以用到索引,如果连接列 (id) 上建立了索引,那么查询 Class_B 时不用查实际的表,只需查索引就可以了。
  • 如果使用 EXISTS,那么只要查到一行数据满足条件就会终止查询,不用像使用 IN 时一样扫描全表。在这一点上 NOT EXISTS 也一样。

另外如果 IN 后面如果跟着的是子查询,由于 SQL 会先执行 IN 后面的子查询,会将子查询的结果保存在一张临时的工作表里(内联视图),然后扫描整个视图,显然扫描整个视图这个工作很多时候是非常耗时的,而用 EXISTS 不会生成临时表

当然了,如果 IN 的参数是子查询时,也可以用连接来代替,如下:

-- 使用连接代替 IN SELECT A.id, A.name
FROM Class_A A INNER JOIN Class_B B ON A.id = B.id;

用到了 「id」列上的索引,而且由于没有子查询,也不会生成临时表

避免排序

SQL 是声明式语言,即对用户来说,只关心它能做什么,不用关心它怎么做。这样可能会产生潜在的性能问题:排序,会产生排序的代表性运算有下面这些:

  • GROUP BY 子句
  • ORDER BY 子句聚合函数 (SUMCOUNTAVGMAXMIN)
  • DISTINCT
  • 集合运算符 (UNIONINTERSECTEXCEPT)
  • 窗口函数 (RANKROW_NUMBER 等)

如果在内存中排序还好,但如果内存不够导致需要在硬盘上排序上的话,性能就会急剧下降,所以我们需要减少不必要的排序。怎样做可以减少排序呢。

使用集合运算符的 ALL 可选项

SQL 中有 UNIONINTERSECTEXCEPT 三个集合运算符,默认情况下,这些运算符会为了避免重复数据而进行排序,对比一下使用 UNION 运算符加和不加 ALL 的情况:
图示.img

注意:加 ALL 是优化性能非常有效的手段,不过前提是不在乎结果是否有重复数据。

使用 EXISTS 代表 DISTINCT

为了排除重复数据, DISTINCT 也会对结果进行排序,如果需要对两张表的连接结果进行去重,可以考虑用 EXISTS 代替 DISTINCT,这样可以避免排序。

如何找出有销售记录的商品,使用如下 DISTINCT 可以:

SELECT DISTINCT I.item_no
FROM Items I INNER JOIN SalesHistory SH
ON I. item_no = SH. item_no;

不过更好的方式是使用 EXISTS:

SELECT item_no FROM Items I
WHERE EXISTS 
        (SELECT *
           FROM SalesHistory SH
          WHERE I.item_no = SH.item_no);

既用到了索引,又避免了排序对性能的损耗。

在极值函数中使用索引(MAX/MIN

使用 MAX/ MIN 都会对进行排序,如果参数字段上没加索引会导致全表扫描,如果建有索引,则只需要扫描索引即可,对比如下

-- 这样写需要扫描全表 
SELECT MAX(item)
  FROM Items;

-- 这样写能用到索引 
SELECT MAX(item_no)
  FROM Items;

注意:极值函数参数推荐为索引列中并不是不需要排序,而是优化了排序前的查找速度(毕竟索引本身就是有序排列的)。

能写在 WHERE 子句里的条件不要写在 HAVING 子句里

下列 SQL 语句返回的结果是一样的:

-- 聚合后使用 HAVING 子句过滤
SELECT sale_date, SUM(quantity)
  FROM SalesHistory GROUP BY sale_date
HAVING sale_date = '2007-10-01';

-- 聚合前使用 WHERE 子句过滤
SELECT sale_date, SUM(quantity)
  FROM SalesHistory
 WHERE sale_date = '2007-10-01' 
 GROUP BY sale_date;

使用第二条语句效率更高,原因主要有两点:

  • 使用 GROUP BY 子句进行聚合时会进行排序,如果事先通过 WHERE 子句能筛选出一部分行,能减轻排序的负担
  • 在 WHERE 子句中可以使用索引,而 HAVING 子句是针对聚合后生成的视频进行筛选的,但很多时候聚合后生成的视图并没有保留原表的索引结构

GROUP BY 子句和 ORDER BY 子句中使用索引

GROUP BY 子句和 ORDER BY 子句一般都会进行排序,以对行进行排列和替换,不过如果指定带有索引的列作为这两者的参数列,由于用到了索引,可以实现高速查询,由于索引是有序的,排序本身都会被省略掉

使用索引时,条件表达式的左侧应该是原始字段

假设我们在 col 列上建立了索引,则下面这些 SQL 语句无法用到索引:

SELECT *
  FROM SomeTable
 WHERE col * 1.1 > 100;

SELECT *
  FROM SomeTable
 WHERE SUBSTR(col, 1, 1) = 'a';

以上第一个 SQL 在索引列上进行了运算, 第二个 SQL 对索引列使用了函数,均无法用到索引,正确方式是把列单独放在左侧, 如下:

SELECT *
  FROM SomeTable
 WHERE col_1 > 100 / 1.1;

当然如果需要对此列使用函数,则无法避免在左侧运算,可以考虑使用函数索引,不过一般不推荐随意这么做。

尽量避免使用否定形式

如下的几种否定形式不能用到索引:

<>
!=
NOT IN

所以以下 了 SQL 语句会导致全表扫描

SELECT *
  FROM SomeTable
 WHERE col_1 <> 100;

可以改成以下形式

SELECT *
  FROM SomeTable
 WHERE col_1 > 100 or col_1 < 100;

进行默认的类型转换

假设 col 是 char 类型,则推荐使用以下第二,三条 SQL 的写法,不推荐第一条 SQL 的写法

× SELECT * FROM SomeTable WHERE col_1 = 10;
○ SELECT * FROM SomeTable WHERE col_1 = '10';
○ SELECT * FROM SomeTable WHERE col_1 = CAST(10, AS CHAR(2));

虽然第一条 SQL 会默认把 10 转成 '10',但这种默认类型转换不仅会增加额外的性能开销,还会导致索引不可用,所以建议使用的时候进行类型转换。

减少中间表

在 SQL 中,子查询的结果会产生一张新表,不过如果不加限制大量使用中间表的话,会带来两个问题,一是展示数据需要消耗内存资源,二是原始表中的索引不容易用到,所以尽量减少中间表也可以提升性能。

灵活使用 HAVING 子句

这一点与上面第八条相呼应,对聚合结果指定筛选条件时,使用 HAVING 是基本的原则,可能一些工程师会倾向于使用下面这样的写法:

SELECT *
  FROM (SELECT sale_date, MAX(quantity) AS max_qty
          FROM SalesHistory 
         GROUP BY sale_date) TMP
         WHERE max_qty >= 10;

虽然上面这样的写法能达到目的,但会生成 TMP 这张临时表,所以应该使用下面这样的写法:

SELECT sale_date, MAX(quantity) 
  FROM SalesHistory
 GROUP BY sale_date
HAVING MAX(quantity) >= 10;

HAVING 子句和聚合操作是同时执行的,所以比起生成中间表后再执行 HAVING 子句,效率会更高,代码也更简洁

使用延迟查询优化 limit [offset], [rows]

经常出现类似以下的 SQL 语句:

SELECT * FROM film LIMIT 100000, 10

offset 特别大!

这是很多慢 SQL 的主要原因之一,尤其是在跑任务需要分页执行时,经常跑着跑着 offset 就跑到几十万了,导致任务越跑越慢。

LIMIT 能很好地解决分页问题,但如果 offset 过大的话,会造成严重的性能问题,这句 SQL 的执行逻辑是

  1. 从数据表中读取第N条数据添加到数据集中
  2. 重复第一步直到 N = 10000 + 10
  3. 根据 offset 抛弃前面 10000 条数
  4. 返回剩余的 10 条数据

显然,导致这句 SQL 速度慢的问题出现在第二步!这前面的 10000 条数据完全对本次查询没有意义,但是却占据了绝大部分的查询时间!

可以通过延迟查询的方式来优化

假设有以下 SQL,有组合索引(sex, rating)

SELECT <cols> FROM profiles where sex='M' order by rating limit 100000, 10;

则上述写法可以改成如下写法

SELECT <cols> 
  FROM profiles 
inner join
(SELECT id form FROM profiles where x.sex='M' order by rating limit 100000, 10)
as x using(id);

这里利用了覆盖索引的特性,先从覆盖索引中获取 100010 个 id,再丢充掉前 100000 条 id,保留最后 10 个 id 即可,丢掉 100000 条 id 不是什么大的开销,所以这样可以显著提升性能。

注意组合索引,要符合最左匹配原则才能生效

假设存在这样顺序的一个联合索引“col_1, col_2, col_3”。这时,指定条件的顺序就很重要。

○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 AND col_3 = 500;
○ SELECT * FROM SomeTable WHERE col_1 = 10 AND col_2 = 100 ;
× SELECT * FROM SomeTable WHERE col_2 = 100 AND col_3 = 500 ;

前面两条会命中索引,第三条由于没有先匹配 col_1,导致无法命中索引, 另外如果无法保证查询条件里列的顺序与索引一致,可以考虑将联合索引 拆分为多个索引。

使用 LIKE 谓词时,只有前方一致的匹配才能用到索引(最左匹配原则)

× SELECT * FROM SomeTable WHERE col_1 LIKE '%a';
× SELECT * FROM SomeTable WHERE col_1 LIKE '%a%';
○ SELECT * FROM SomeTable WHERE col_1 LIKE 'a%';

上例中,只有第三条会命中索引,前面两条进行后方一致或中间一致的匹配无法命中索引

简单字符串表达式

模型字符串可以使用 _ 时, 尽可能避免使用 %, 假设某一列上为 char(5)

不推荐

SELECT 
    first_name, 
    last_name,
    homeroom_nbr
  FROM Students
 WHERE homeroom_nbr LIKE 'A-1%';

推荐

SELECT first_name, last_name
homeroom_nbr
  FROM Students
 WHERE homeroom_nbr LIKE 'A-1__'; --模式字符串中包含了两个下划线

尽量使用自增 id 作为主键

比如现在有一个用户表,有人说身份证是唯一的,也可以用作主键,理论上确实可以,不过用身份证作主键的话,一是占用空间相对于自增主键大了很多,二是很容易引起频繁的页分裂,造成性能问题。

主键选择的几个原则:自增,尽量小,不要对主键进行修改.

如何优化 count(*)

使用以下 sql 会导致慢查询

SELECT COUNT(*) FROM SomeTable
SELECT COUNT(1) FROM SomeTable

原因是会造成全表扫描,有人说 COUNT(*) 不是会利用主键索引去查找吗,怎么还会慢,这就要谈到 MySQL 中的聚簇索引和非聚簇索引了,聚簇索引叶子节点上存有主键值+整行数据,非聚簇索叶子节点上则存有辅助索引的列值 + 主键值,如下

图示.img

所以就算对 COUNT(*) 使用主键查找,由于每次取出主键索引的叶子节点时,取的是一整行的数据,效率必然不高,但是非聚簇索引叶子节点只存储了「列值 + 主键值」,这也启发我们可以用非聚簇索引来优化,假设表有一列叫 status, 为其加上索引后,可以用以下语句优化:

SELECT COUNT(status) FROM SomeTable

有人曾经测过,假设有 100 万行数据,使用聚簇索引来查找行数的,比使用 COUNT(*) 查找速度快 10 几倍。不过需要注意的是通过这种方式无法计算出 status 值为 null 的那些行。

如果主键是连续的,可以利用 MAX(id) 来查找,MAX 也利用到了索引,只需要定位到最大 id 即可,性能极好,如下,秒现结果

SELECT MAX(id) FROM SomeTable

说句题句话,有人说用 MyISAM 引擎调用 COUNT(*) 非常快,那是因为它提前把行数存在磁盘中了,直接拿,当然很快,不过如果有 WHERE 的限制,用 COUNT(*) 还是很慢!

避免使用 SELECT * ,尽量利用覆盖索引来优化性能

SELECT * 会提取出一整行的数据,如果查询条件中用的是组合索引进行查找,还会导致回表(先根据组合索引找到叶子节点,再根据叶子节点上的主键回表查询一整行),降低性能,而如果我们所要的数据就在组合索引里,只需读取组合索引列,这样网络带宽将大大减少,假设有组合索引列 (col_1, col_2)

推荐用

SELECT col_1, col_2 
  FROM SomeTable 
 WHERE col_1 = xxx AND col_2 = xxx

不推荐用

SELECT *
  FROM SomeTable 
 WHERE col_1 = xxx AND  col_2 = xxx

如有必要,使用 force index() 强制走某个索引

业务团队曾经出现类似以下的慢 SQL 查询

SELECT *
  FROM  SomeTable
 WHERE `status` = 0
   AND `gmt_create` > 1490025600
   AND `gmt_create` < 1490630400
   AND `id` > 0
   AND `post_id` IN ('67778', '67811', '67833', '67834', '67839', '67852', '67861', '67868', '67870', '67878', '67909', '67948', '67951', '67963', '67977', '67983', '67985', '67991', '68032', '68038'/*... omitted 480 items ...*/)
order by id asc limit 200;

post_id 也加了索引,理论上走 post_id 索引会很快查询出来,但实际通过 EXPLAIN 发现走的却是 id 的索引(这里隐含了一个常见考点,在多个索引的情况下, MySQL 会如何选择索引),而 id > 0 这个查询条件没啥用,直接导致了全表扫描, 所以在有多个索引的情况下一定要慎用,可以使用 force index 来强制走某个索引,以这个例子为例,可以强制走 post_id 索引,效果立杆见影。

这种由于表中有多个索引导致 MySQL 误选索引造成慢查询的情况在业务中也是非常常见,一方面是表索引太多,另一方面也是由于 SQL 语句本身太过复杂导致, 针对本例这种复杂的 SQL 查询,其实用 ElasticSearch 搜索引擎来查找更合适。

使用 EXPLAIN 来查看 SQL 执行计划

上个点说了,可以使用 EXPLAIN 来分析 SQL 的执行情况,如怎么发现上文中的最左匹配原则不生效呢,执行 「EXPLAIN + SQL 语句」可以发现 key 为 None ,说明确实没有命中索引

批量插入,速度更快

当需要插入数据时,批量插入比逐条插入性能更高

推荐用

-- 批量插入
INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, 'a'),(2,3,'b');

不推荐用

INSERT INTO TABLE (id, user_id, title) VALUES (1, 2, 'a');
INSERT INTO TABLE (id, user_id, title) VALUES (2,3,'b');

批量插入 SQL 执行效率高的主要原因是合并后日志量 MySQL 的 binlog 和 innodb 的事务让日志减少了,降低日志刷盘的数据量和频率,从而提高了效率

慢日志 SQL 定位

前面我们多次说了 SQL 的慢查询,那么该怎么定位这些慢查询 SQL 呢,主要用到了以下几个参数
图示.img
这几个参数一定要配好,再根据每条慢查询对症下药。

参考资料

posted @ 2020-05-28 21:38  holm  阅读(370)  评论(0编辑  收藏  举报