01 | 基础架构: 一条SQL查询语句是如何执行的
比如,你有个最简单的表,表里只有一个 ID 字段,在执行下面这个查询语句时:
select * from T where ID=10;
接下来分析MySQL的执行过程:
大体来说, MySQL可以分为Server层和存储引擎层两部分。
Server层包括连接器, 查询缓存, 分析器,优化器,执行器等, 涵盖MySQL的大多数核心服务功能, 以及所有的内置函数(如日期, 时间, 数学和加密函数等), 所有跨存储引擎的功能都在这一层实现, 比如存储过程, 触发器, 视图等。
而存储引擎层负责数据的存储和提取, 其架构模式是插件式的, 支持InnoDB, MyISAM, Memory等多个存储引擎。现在最常用的存储引擎是InnoDB
连接器
第一步, 你会先连接这个数据库上, 这个时候接待你的就是连接器, 连接器负责跟客户端建立连接, 获取权限, 维持和管理连接。连接命令一般这么写:
mysql -h$ip -P$port -u$user -p
接下来跟服务端建立连接, 在完成经典的TCP握手后, 连接器就要开始认证你的身份, 这个时候用的就是你输入的用户名和密码。
如果用户名密码不对, 就会收到一个“Access denied for user”的错误, 然后客户端程序结束执行。
如果用户名密码认证通过, 连接器回到权限表里查处你拥有的权限, 之后, 这个连接里面的权限判断逻辑, 都将依赖于此时读到的权限。
这就意味着,一个用户成功建立连接后,即使你用管理员账号对这个用户的权限做了修改, 也不会影响已经存在的连接权限, 修改完成之后, 只有在新建的连接才会使用新的权限设置
连接完成后, 如果你没有后续的动作, 这个连接就处于空闲状态, 你可以在show processlist命令中看到他
客户端如果太长时间没有动静, 连接器就会自动将它断开, 这个时间是有参数wait——timeout控制的。默认值是8小时。
如果连接器断开之后, 客户端再次发送请求的话, 就会收到一个错误的提醒: Lost connection 头MySQL server during query。这个时候如果你要继续, 就需要重新连接,然后在执行请求了。
数据库里, 长连接是值连接成功后, 如果客户端持续有请求, 则一直使用同一个连接。 短连接则是指每次执行完很少的几次查询就断开连接, 下次查询在重新建立一个。
建立连接的过程通常是一个比较复杂的, 所以使用过程总, 尽量使用长连接。
但是全部使用长连接后, 你可能会发现, 有时候MySQL占用内存涨的特别快, 这是因为MySQL在执行过程中临时使用的内存时管理在连接对象里面的。这些资源会在连接断开的时候才释放。所以如果长连接累积下来, 可能导致占用内存太大, 被系统强行杀掉, 从现象看就是MySQL异常重启了。
增么解决这个问题呢?有两种方案
1, 定期断开链接,使用一段时间,或程序里判断执行一个占用内存的大查询后, 断开连接, 之后查询在重连
2, 如果你用的是MySQL5,7或者更新的版本, 可以在每次执行一个较大的操作后, 通过执行mysql_reset_connection来重新初始化连接资源, 这个过程不需要重连和重新左权限验证, 但是会将连接恢复到刚刚创建完时的状态。
查询缓存
连接建立完成后, 你就可以执行select语句了, 执行逻辑就会到了第二步: 查询缓存。
MySQL 拿到一个查询请求后,会先到查询缓存看看,之前是不是执行这条语句。之前执行过的语句及其结果可能会以key-value对的形式, 被直接缓存到内存中。key是查询的语句。value是查询的结果, 如果你的查询能够直接在这个缓存中找到key, 那么这个value就会被直接返回给客户端。
如果语句不在查询缓存中, 就会继续后面的执行阶段, 执行完成后, 执行结果会被存入查询缓存中。你可以看到, 如果查询命中缓存, MySQL不需要执行后面的复杂操作, 就可以直接返回结果, 这个效率很高。
但是大多数情况下不建议使用查询缓存, 以为查询缓存往往利大于弊
查询缓存的失效非常频繁, 只要对一个表的更新, 这个表上所有的查询缓存都会被清空, 因此很可能你费劲吧结果存起来, 还没用, 就被一个更新全清空了, 对于更新压力大的数据库来说, 查询缓存的命中率会非常低。除非你的业务就是一张静态表。很长时间才会更新一次。
好在MySQL也提供了这种“按需使用的方式”。你可以将参数query_cache_type设置成DEMAND,这样对于默认的SQL语句都不使用查询缓存。而对于你确定要使用查询缓存的语句吗可以使用SQL_CACHE显示指定, 像下面这个语句一样:
select SQL_CACHE * from T where ID=10;
需要注意的是, MySQL8.0版本直接将查询缓存的整块功能删掉了, 也就是说8.0开始彻底没有了这个功能。
分析器
如果没有命中查询缓存, 就要开始真正执行语句了。首先,MySQL需要知道你做什么, 因此需要对SQL语句做解析。
分析器先会做“词法分析”。你输入的是有多个字符传和空格组成一条SQL语句, MySQL需要识别出里面的字符串分别是什么。代表什么
MySQL从你输入的select这个关键字识别出来, 这是一个查询语句, 他也要把字符串“T”识别成表名T, 把字符串ID识别成列ID
做完这些识别以后, 就要做“语法分析”。根据词法分析结构, 语法分析其会根据语法规则,判断你输入的这个SQL语句是否满足MySQL语法。
如果你的语句不对, 就会收到“You have an error in your SQL syntax”的错误提示
优化器
经过了分析器, MySQL就知道你要做什么了,在执行之前, 你要县经过优化器的处理
优化器是在表里有多个索引的时候, 决定使用那个索引; 或者在一个语句有多表关联(join)的时候, 决定各个表的连接顺序。比如你执行下面这样的语句, 这个语句是执行两个表的join:
select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20
既可以先从t1表里取出c=10的记录的ID值, 在根据ID值关联到表t2, 在判断t2里面的d的值时候等于20
也可以先从表t2里面出去d=20的记录的ID值, 在根据ID值关联到t1, 在判断t1里面的c的值是否等于10
这两种执行方法的逻辑结果是一样的。淡水执行的效率会不同, 而优化器的作用就是决定选择使用哪一个方案。
优化器阶段完成后, 这个语句的执行方案确定下来后, 然后进入执行器阶段。
执行器
MySQL通过分析器知道你要做什么, 通过优化器知道了该怎么做, 于是就进入了执行器阶段,开始执行语句。
开始执行的时候, 要先判断一下你对这个表T有没有执行查询的权限, 如果没有, 机会返回没有权限的错误,
ERROR 1142 (42000): select command denied to user 'b'@localhost for table 'T'
如果有权限, 就打开表继续执行。 打开表的时候, 执行器就会根据表的引擎定义, 去使用这个引擎提供的接口。
比如我们这个例子中的表T中, ID字段没有索引, 那么执行器的执行流程是这样的:
1, 调用InnoDB引擎接口取这个表的第一行, 判断ID值是不是10, 如果不是则跳过, 如果是则将这个存在结果集中;
2,调用引擎接口取“下一行”,重复相同的判断逻辑, 知道取到这个表的最后一行。
3, 执行器将上述遍历过程中所有满足条件的行组成的记录集作为结果返回给客户端。
至此面这个语句就执行完成了。