MySQL
mysql基础
1 数据库相关概念
以前我们做系统,数据持久化的存储采用的是文件存储。存储到文件中可以达到系统关闭数据不会丢失的效果,当然文件存储也有它的弊端。
假设在文件中存储以下的数据:
姓名 年龄 性别 住址
张三 23 男 北京西三旗
李四 24 女 北京西二旗
王五 25 男 西安软件新城
现要修改李四这条数据的性别数据改为男,我们现学习的io技术可以通过将所有的数据读取到内存中,然后进行修改再存到该文件中。通过这种方式操作存在很大问题,现在只有三条数据,如果文件中存储1t的数据,那么就会发现内存根本就存储不了。
现需要既能持久化存储数据,也要能避免上述问题的技术使用在我们的系统中。数据库就是这样的一门技术。
1.1 数据库
-
存储和管理数据的仓库,数据是有组织的进行存储。
-
数据库英文名是 database,简称db。
数据库就是将数据存储在硬盘上,可以达到持久化存储的效果。那又是如何解决上述问题的?使用数据库管理系统。
1.2 数据库管理系统
- 管理数据库的大型软件
- 英文:database management system,简称 dbms
在电脑上安装了数据库管理系统后,就可以通过数据库管理系统创建数据库来存储数据,也可以通过该系统对数据库中的数据进行数据的增删改查相关的操作。我们平时说的mysql数据库其实是mysql数据库管理系统。
通过上面的描述,大家应该已经知道了 数据库管理系统 和 数据库 的关系。那么有有哪些常见的数据库管理系统呢?
1.3 常见的数据库管理系统
接下来对上面列举的数据库管理系统进行简单的介绍:
- oracle:收费的大型数据库,oracle 公司的产品
- mysql: 开源免费的中小型数据库。后来 sun公司收购了 mysql,而 sun 公司又被 oracle 收购
- sql server:microsoft 公司收费的中型的数据库。c#、.net 等语言常使用
- postgresql:开源免费中小型的数据库
- db2:ibm 公司的大型收费数据库产品
- sqlite:嵌入式的微型数据库。如:作为 android 内置数据库
- mariadb:开源免费中小型的数据库
我们课程上学习的是mysql数据库管理系统,postgresql在一些公司也有使用,此时大家肯定会想以后在公司中如果使用我们没有学习过程的postgresql数据库管理系统怎么办?这点大家大可不必担心,如下图所示:
我们可以通过数据库管理系统操作数据库,对数据库中的数据进行增删改查操作,而怎么样让用户跟数据库管理系统打交道呢?就可以通过一门编程语言(sql)来实现。
1.4 数据库的字段属性
unsigned:无符号的整数
zerofill :零填充
auto_increment:自增
not null:非空
default:默认值
/*每一个表都必须存在一下五个字段!未来做项目用的,表示一个记录存在的意义
*/
id 主键
version 乐观锁
is_delete 伪删除
gmt_creat 创建时间
gmt_uodate 删除时间
1.5 sql
- 英文:structured query language,简称 sql,结构化查询语言
- 操作关系型数据库的编程语言
- 定义操作所有关系型数据库的统一标准,可以使用sql操作所有的关系型数据库管理系统,以后工作中如果使用到了其他的数据库管理系统,也同样的使用sql来操作。
2 sql概述
了解了数据模型后,接下来我们就学习sql语句,通过sql语句对数据库、表、数据进行增删改查操作。
2.1 sql简介
- 英文:structured query language,简称 sql
- 结构化查询语言,一门操作关系型数据库的编程语言
- 定义操作所有关系型数据库的统一标准
- 对于同一个需求,每一种数据库操作的方式可能会存在一些不一样的地方,我们称为“方言”
2.2 通用语法
-
sql 语句可以单行或多行书写,以分号结尾。
如上,以分号结尾才是一个完整的sql语句。
-
mysql 数据库的 sql 语句不区分大小写,关键字建议使用大写。
同样的一条sql语句写成下图的样子,一样可以运行处结果。
-
注释
-
单行注释: -- 注释内容 或 #注释内容(mysql 特有)
注意:使用-- 添加单行注释时,--后面一定要加空格,而#没有要求。
-
多行注释: /* 注释 */
-
2.3 sql分类
-
ddl(data definition language) : 数据定义语言,用来定义数据库对象:数据库,表,列等
ddl简单理解就是用来操作数据库,表等
-
dml(data manipulation language) 数据操作语言,用来对数据库中表的数据进行增删改
dml简单理解就对表中数据进行增删改
-
dql(data query language) 数据查询语言,用来查询数据库中表的记录(数据)
dql简单理解就是对数据进行查询操作。从数据库表中查询到我们想要的数据。
-
dcl(data control language) 数据控制语言,用来定义数据库的访问权限和安全级别,及创建用户
dml简单理解就是对数据库进行权限控制。比如我让某一个数据库表只能让某一个用户进行操作等。
注意: 以后我们最常操作的是
dml和dql,因为我们开发中最常操作的就是数据。
3 数据类型
3.1 整型
| 类型名称 | 取值范围 | 大小 |
|---|---|---|
| tinyint | -128〜127 | 1个字节 |
| smallint | -32768〜32767 | 2个宇节 |
| mediumint | -8388608〜8388607 | 3个字节 |
| int | -2147483648〜2147483647 | 4个字节 |
| bigint | -9223372036854775808〜9223372036854775807 | 8个字节 |
无符号在数据类型后加 unsigned 关键字。
zerofill:不足的位数用0来填充,int(3) —>003
3.2 浮点型
| 类型名称 | 说明 | 存储需求 |
|---|---|---|
| float | 单精度浮点数 | 4 个字节 |
| double | 双精度浮点数 | 8 个字节 |
| decimal (m, d),dec | 压缩的“严格”定点数 | m+2 个字节 |
3.3 日期和时间
| 类型名称 | 日期格式 | 日期范围 | 存储需求 |
|---|---|---|---|
| year | yyyy | 1901 ~ 2155 | 1 个字节 |
| time | hh:mm:ss | -838:59:59 ~ 838:59:59 | 3 个字节 |
| date | yyyy-mm-dd | 1000-01-01 ~ 9999-12-3 | 3 个字节 |
| datetime | yyyy-mm-dd hh:mm:ss | 1000-01-01 00:00:00 ~ 9999-12-31 23:59:59 | 8 个字节 |
| timestamp | yyyy-mm-dd hh:mm:ss | 1980-01-01 00:00:01 utc ~ 2040-01-19 03:14:07 utc | 4 个字节 |
3.4 字符串
| 类型名称 | 说明 | 存储需求 |
|---|---|---|
| char(m) | 固定长度非二进制字符串 | m 字节,1<=m<=255 |
| varchar(m) | 变长非二进制字符串 | l+1字节,在此,l< = m和 1<=m<=255 |
| tinytext | 非常小的非二进制字符串 | l+1字节,在此,l<2^8 |
| text | 小的非二进制字符串 | l+2字节,在此,l<2^16 |
| mediumtext | 中等大小的非二进制字符串 | l+3字节,在此,l<2^24 |
| longtext | 大的非二进制字符串 | l+4字节,在此,l<2^32 |
| enum | 枚举类型,只能有一个枚举字符串值 | 1或2个字节,取决于枚举值的数目 (最大值为65535) |
| set | 一个设置,字符串对象可以有零个或 多个set成员 | 1、2、3、4或8个字节,取决于集合 成员的数量(最多64个成员) |
3.5 二进制类型
| 类型名称 | 说明 | 存储需求 |
|---|---|---|
| bit(m) | 位字段类型 | 大约 (m+7)/8 字节 |
| binary(m) | 固定长度二进制字符串 | m 字节 |
| varbinary (m) | 可变长度二进制字符串 | m+1 字节 |
| tinyblob (m) | 非常小的blob | l+1 字节,在此,l<2^8 |
| blob (m) | 小 blob | l+2 字节,在此,l<2^16 |
| mediumblob (m) | 中等大小的blob | l+3 字节,在此,l<2^24 |
| longblob (m) | 非常大的blob | l+4 字节,在此,l<2^32 |
4 通用语法及分类
- ddl: 数据定义语言,用来定义数据库对象(数据库、表、字段)
- dml: 数据操作语言,用来对数据库表中的数据进行增删改
- dql: 数据查询语言,用来查询数据库中表的记录
- dcl: 数据控制语言,用来创建数据库用户、控制数据库的控制权限
4.1 DDL(数据定义语言)
数据库操作
查询所有数据库:
show databases;
查询当前数据库:
select database();
创建数据库:
create database [ if not exists ] 数据库名 [ default charset 字符集] [collate 排序规则 ];
删除数据库:
drop database [ if exists ] 数据库名;
使用数据库:
use 数据库名;
注意事项
-
utf8字符集长度为3字节,有些符号占4字节,所以推荐用utf8mb4字符集
表操作
查询当前数据库所有表:
show tables;
查询表结构:
desc 表名;
查询指定表的建表语句:
show create table 表名;
查询指定数据库的建库语句:
show create database '数据库名'
创建表:
create table [if not exists] 表名(
字段1 字段1类型 [comment 字段1注释],
字段2 字段2类型 [comment 字段2注释],
字段3 字段3类型 [comment 字段3注释],
...
字段n 字段n类型 [comment 字段n注释]
)[表类型innodb][字符集设置utf8][comment 表注释];
最后一个字段后面没有逗号
添加字段:
alter table 表名 add 字段名 类型(长度) [comment 注释] [约束];
例:alter table emp add nickname varchar(20) comment '昵称';
修改数据类型:
alter table 表名 modify 字段名 新数据类型(长度);
修改字段名和字段类型:
alter table 表名 change 旧字段名 新字段名 类型(长度) [comment 注释] [约束];
例:将emp表的nickname字段修改为username,类型为varchar(30)
alter table emp change nickname username varchar(30) comment '昵称';
删除字段:
alter table 表名 drop 字段名;
修改表名:
alter table 表名 rename to 新表名
删除表:
drop table [if exists] 表名;
删除表,并重新创建该表:
truncate table 表名;
4.2 DML(数据操作语言)
4.2.1 添加数据
指定字段:
insert into 表名 (字段名1, 字段名2, ...) values (值1, 值2, ...);
全部字段:
insert into 表名 values (值1, 值2, ...);
批量添加数据:
``insert into 表名 (字段名1, 字段名2, ...) values (值1, 值2, ...), (值1, 值2, ...), (值1, 值2, ...); insert into 表名 values (值1, 值2, ...), (值1, 值2, ...), (值1, 值2, ...);`
注意事项
-
字符串和日期类型数据应该包含在引号中
-
插入的数据大小应该在字段的规定范围内
4.2.2 更新和删除数据
修改数据:
update 表名 set 字段名1 = 值1, 字段名2 = 值2, ... [ where 条件 ];
例:
update emp set name = 'jack' where id = 1;
删除数据:
delete from 表名 [ where 条件 ];
删除表中的所有数据:
truncate 表名
truncate和delete: truncate和delete都会删除表中的数据,但是delete不是删除自增,truncate自增会归零。
注意事项
delete删除后重启的现象:
- innodb 自增类会从1开始(存储在内存当中的,断电即失)
- myisam:继续从上一个自增量开始(存储在文件中的,不会丢失)
4.3 DQL(数据查询语言)
语法:
select [all || distinct]
字段列表
from
表名字段1[别名]
[left | right | inner join 表名字段2[别名] ]
where
条件列表
group by
分组字段列表
having
分组后的条件列表
order by
排序字段列表 [desc | asc]
limit
分页参数
4.3.1 基础查询
查询多个字段:
select 字段1, 字段2, 字段3, ... from 表名;
select * from 表名;
设置别名(as可以不要):
select 字段1 [ as 别名1 ], 字段2 [ as 别名2 ], 字段3 [ as 别名3 ], ... from 表名;
select 字段1 [ 别名1 ], 字段2 [ 别名2 ], 字段3 [ 别名3 ], ... from 表名;
去除重复记录:
select distinct 字段列表 from 表名;
模糊查询:
select * from 表名 where name like '/_张三' escape '/'
select * from 表名 where name like '%张%' (不建议,会导致索引失效)
/ 之后的_不作为通配符
4.3.2 条件查询
语法:
select 字段列表 from 表名 where 条件列表;
条件:
| 比较运算符 | 功能 |
|---|---|
| > | 大于 |
| >= | 大于等于 |
| < | 小于 |
| <= | 小于等于 |
| = | 等于 |
| <> 或 != | 不等于 |
| between ... and ... | 在某个范围内(含最小、最大值) |
| in(...) | 在in之后的列表中的值,多选一 |
| like 占位符 | 模糊匹配(_匹配单个字符,%匹配任意个字符) |
| is null | 是null |
| 逻辑运算符 | 功能 |
|---|---|
| and 或 && | 并且(多个条件同时成立) |
| or 或 || | 或者(多个条件任意一个成立) |
| not 或 ! | 非,不是 |
例子:
-- 年龄等于30
select * from employee where age = 30;
-- 年龄小于30
select * from employee where age < 30;
-- 小于等于
select * from employee where age <= 30;
-- 没有身份证
select * from employee where idcard is null or idcard = '';
-- 有身份证
select * from employee where idcard;
select * from employee where idcard is not null;
-- 不等于
select * from employee where age != 30;
-- 年龄在20到30之间
select * from employee where age between 20 and 30;
select * from employee where age >= 20 and age <= 30;
-- 下面语句不报错,但查不到任何信息
select * from employee where age between 30 and 20;
-- 性别为女且年龄小于30
select * from employee where age < 30 and gender = '女';
-- 年龄等于25或30或35
select * from employee where age = 25 or age = 30 or age = 35;
select * from employee where age in (25, 30, 35);
-- 姓名为两个字
select * from employee where name like '__';
-- 身份证最后为x
select * from employee where idcard like '%x';
4.3.3 多表查询
4.3.3.1 多表关系
- 一对多(多对一)
- 多对多
- 一对一
一对多
案例:部门与员工
关系:一个部门对应多个员工,一个员工对应一个部门
实现:在多的一方建立外键,指向一的一方的主键
多对多
案例:学生与课程
关系:一个学生可以选多门课程,一门课程也可以供多个学生选修
实现:建立第三张中间表,中间表至少包含两个外键,分别关联两方主键
一对一
案例:用户与用户详情
关系:一对一关系,多用于单表拆分,将一张表的基础字段放在一张表中,其他详情字段放在另一张表中,以提升操作效率
实现:在任意一方加入外键,关联另外一方的主键,并且设置外键为唯一的(unique)
合并查询(笛卡尔积,会展示所有组合结果):
select * from employee, dept;
笛卡尔积:两个集合a集合和b集合的所有组合情况(在多表查询时,需要消除无效的笛卡尔积)
消除无效笛卡尔积:
select * from employee, dept where employee.dept = dept.id;
4.3.3.2 内连接查询
内连接查询的是两张表交集的部分
隐式内连接:
select 字段列表 from 表1, 表2 where 条件 ...;
显式内连接:
select 字段列表 from 表1 [ inner ] join 表2 on 连接条件 ...;
显式性能比隐式高
例子(as 和 inner可以不要):
-- 查询员工姓名,及关联的部门的名称
-- 隐式
select e.name, d.name from employee as e, dept as d where e.dept = d.id;
-- 显式
select e.name, d.name from employee as e [inner] join dept as d on e.dept = d.id;
4.3.3.3 外连接查询
左外连接:
查询左表所有数据,以及两张表交集部分数据
select 字段列表 from 表1 left [ outer ] join 表2 on 条件 ...;
相当于查询表1的所有数据,包含表1和表2交集部分数据
右外连接:
查询右表所有数据,以及两张表交集部分数据
select 字段列表 from 表1 right [ outer ] join 表2 on 条件 ...;
例子:
-- 左
select e.*, d.name from employee as e left outer join dept as d on e.dept = d.id;
select d.name, e.* from dept d left outer join emp e on e.dept = d.id; -- 这条语句与下面的语句效果一样
-- 右
select d.name, e.* from employee as e right outer join dept as d on e.dept = d.id;
左连接可以查询到没有dept的employee,右连接可以查询到没有employee的dept
4.3.3.4 自连接查询
当前表与自身的连接查询,自连接必须使用表别名
语法:
select 字段列表 from 表a 别名a join 表a 别名b on 条件 ...;
自连接查询,可以是内连接查询,也可以是外连接查询
例子:
-- 查询员工及其所属领导的名字
select a.name, b.name from employee a, employee b where a.manager = b.id;
-- 没有领导的也查询出来
select a.name, b.name from employee a left join employee b on a.manager = b.id;
4.3.3.5 联合查询 union, union all
把多次查询的结果合并,形成一个新的查询集
语法:
select 字段列表 from 表a ...
union [all]
select 字段列表 from 表b ...
注意事项
- union all 会有重复结果,union 不会
- 联合查询比使用or效率高,不会使索引失效
| 操作 | 描述 |
|---|---|
| join | 如果表中至少有一个匹配,就返回行 |
| left join | 即使右表中没有匹配,也会从左表中返回所有的值 |
| right join | 即使左表中没有匹配,也会从左表中返回所有的值 |
4.3.4 子查询
sql语句中嵌套select语句,称谓嵌套查询,又称子查询。
select * from t1 where column1 = ( select column1 from t2);
子查询外部的语句可以是 insert / update / delete / select 的任何一个
根据子查询结果可以分为:
- 标量子查询(子查询结果为单个值)
- 列子查询(子查询结果为一列)
- 行子查询(子查询结果为一行)
- 表子查询(子查询结果为多行多列)
根据子查询位置可分为:
- where 之后
- from 之后
- select 之后
4.3.4.1 标量子查询
子查询返回的结果是单个值(数字、字符串、日期等)。
常用操作符:- < > > >= < <=
例子:
-- 查询销售部所有员工
select id from dept where name = '销售部';
-- 根据销售部部门id,查询员工信息
select * from employee where dept = 4;
-- 合并(子查询)
select * from employee where dept = (select id from dept where name = '销售部');
-- 查询xxx入职之后的员工信息
select * from employee where entrydate > (select entrydate from employee where name = 'xxx');
4.3.4.2 列子查询
返回的结果是一列(可以是多行)。
常用操作符:
| 操作符 | 描述 |
|---|---|
| in | 在指定的集合范围内,多选一 |
| not in | 不在指定的集合范围内 |
| any | 子查询返回列表中,有任意一个满足即可 |
| some | 与any等同,使用some的地方都可以使用any |
| all | 子查询返回列表的所有值都必须满足 |
例子:
-- 查询销售部和市场部的所有员工信息
select * from employee where dept in (select id from dept where name = '销售部' or name = '市场部');
-- 查询比财务部所有人工资都高的员工信息
select * from employee where salary > all(select salary from employee where dept = (select id from dept where name = '财务部'));
-- 查询比研发部任意一人工资高的员工信息
select * from employee where salary > any (select salary from employee where dept = (select id from dept where name = '研发部'));
4.3.4.3 行子查询
返回的结果是一行(可以是多列)。
常用操作符:=, <, >, in, not in
例子:
-- 查询与xxx的薪资及直属领导相同的员工信息
select * from employee where (salary, manager) = (12500, 1);
select * from employee where (salary, manager) = (select salary, manager from employee where name = 'xxx');
4.3.4.4 表子查询
返回的结果是多行多列
常用操作符:in
例子:
-- 查询与xxx1,xxx2的职位和薪资相同的员工
select * from employee where (job, salary) in (select job, salary from employee where name = 'xxx1' or name = 'xxx2');
-- 查询入职日期是2006-01-01之后的员工,及其部门信息
select e.*, d.* from (select * from employee where entrydate > '2006-01-01') as e left join dept as d on e.dept = d.id;
4.3.5 聚合查询(聚合函数)
常见聚合函数:
| 函数 | 功能 |
|---|---|
| count | 统计数量 |
| max | 最大值 |
| min | 最小值 |
| avg | 平均值 |
| sum | 求和 |
| abs | 求 |
语法:
select 聚合函数(字段列表) from 表名;
例:
select count(id) from employee where workaddress = "广东省";
4.3.6 分组查询
语法:
select 字段列表 from 表名 [ where 条件 ] group by 分组字段名 [ having 分组后的过滤条件 ];
where 和 having 的区别:
- 执行时机不同:where是分组之前进行过滤,不满足where条件不参与分组;having是分组后对结果进行过滤。
- 判断条件不同:where不能对聚合函数进行判断,而having可以。
例子:
-- 根据性别分组,统计男性和女性数量(只显示分组数量,不显示哪个是男哪个是女)
select count(*) from employee group by sex;
-- 根据性别分组,统计男性和女性数量
select gender, count(*) from employee group by sex;
-- 根据性别分组,统计男性和女性的平均年龄
select gender, avg(age) from employee group by sex;
-- 年龄小于45,并根据工作地址分组
select workaddress, count(*) from employee where age < 45 group by workaddress;
-- 年龄小于45,并根据工作地址分组,获取员工数量大于等于3的工作地址
select workaddress, count(*) address_count from employee where age < 45 group by workaddress having address_count >= 3;
注意事项
- 执行顺序:where > 聚合函数 > having
- 分组之后,查询的字段一般为聚合函数和分组字段,查询其他字段无任何意义
4.3.7排序查询
语法:
select 字段列表 from 表名 order by 字段1 排序方式1, 字段2 排序方式2;
排序方式:
- asc: 升序(默认)
- desc: 降序
例子:
-- 根据年龄升序排序
select * from employee order by age asc;
select * from employee order by age;
-- 两字段排序,根据年龄升序排序,入职时间降序排序
select * from employee order by age asc, entrydate desc;
注意事项
如果是多字段排序,当第一个字段值相同时,才会根据第二个字段进行排序
4.3.8 分页查询
语法:
select 字段列表 from 表名 limit 起始索引, 查询记录数;
例子:
-- 查询第一页数据,展示10条
select * from employee limit 0, 10;
-- 查询第二页
select * from employee limit 10, 10;
注意事项
- 起始索引从0开始,起始索引 = (查询页码 - 1) * 每页显示记录数
- 分页查询是数据库的方言,不同数据库有不同实现,mysql是limit
- 如果查询的是第一页数据,起始索引可以省略,直接简写 limit 10
4.3.9 dql执行顺序
from -> where -> group by -> select -> order by -> limit
4.4 DCL(数据控制语言)
4.4.1 管理用户
查询用户:
use mysql;
select * from user;
创建用户:
create user '用户名'@'主机名' identified by '密码';
修改用户密码:
alter user '用户名'@'主机名' identified with mysql_native_password by '新密码';
删除用户:
drop user '用户名'@'主机名';
例子:
-- 创建用户test,只能在当前主机localhost访问
create user 'test'@'localhost' identified by '123456';
-- 创建用户test,能在任意主机访问
create user 'test'@'%' identified by '123456';
create user 'test' identified by '123456';
-- 修改密码
alter user 'test'@'localhost' identified with mysql_native_password by '1234';
-- 删除用户
drop user 'test'@'localhost';
注意事项
- 主机名可以使用 % 通配
4.4.2 权限控制
常用权限:
| 权限 | 说明 |
|---|---|
| all, all privileges | 所有权限 |
| select | 查询数据 |
| insert | 插入数据 |
| update | 修改数据 |
| delete | 删除数据 |
| alter | 修改表 |
| drop | 删除数据库/表/视图 |
| create | 创建数据库/表 |
更多权限请看权限一览表
查询权限:
show grants for '用户名'@'主机名';
授予权限:
grant 权限列表 on 数据库名.表名 to '用户名'@'主机名';
撤销权限:
revoke 权限列表 on 数据库名.表名 from '用户名'@'主机名';
注意事项
- 多个权限用逗号分隔
- 授权时,数据库名和表名可以用 * 进行通配,代表所有
5 函数
- 字符串函数
- 数值函数
- 日期函数
- 流程函数
5.1 字符串函数
常用函数:
| 函数 | 功能 |
|---|---|
| concat(s1, s2, ..., sn) | 字符串拼接,将s1, s2, ..., sn拼接成一个字符串 |
| lower(str) | 将字符串全部转为小写 |
| upper(str) | 将字符串全部转为大写 |
| lpad(str, n, pad) | 左填充,用字符串pad对str的左边进行填充,达到n个字符串长度 |
| rpad(str, n, pad) | 右填充,用字符串pad对str的右边进行填充,达到n个字符串长度 |
| trim(str) | 去掉字符串头部和尾部的空格 |
| substring(str, start, len) | 返回从字符串str从start位置起的len个长度的字符串 |
| replace(column, source, replace) | 替换字符串 |
使用示例:
-- 拼接
select concat('hello', 'world');
-- 小写
select lower('hello');
-- 大写
select upper('hello');
-- 左填充
select lpad('01', 5, '-');
-- 右填充
select rpad('01', 5, '-');
-- 去除空格
select trim(' hello world ');
-- 切片(起始索引为1)
select substring('hello world', 1, 5);
5.2 数值函数
常见函数:
| 函数 | 功能 |
|---|---|
| ceil(x) | 向上取整 |
| floor(x) | 向下取整 |
| mod(x, y) | 返回x/y的模 |
| rand() | 返回0~1内的随机数 |
| round(x, y) | 求参数x的四舍五入值,保留y位小数 |
5.3 日期函数
常用函数:
| 函数 | 功能 |
|---|---|
| curdate() | 返回当前日期 |
| curtime() | 返回当前时间 |
| now() | 返回当前日期和时间 |
| year(date) | 获取指定date的年份 |
| month(date) | 获取指定date的月份 |
| day(date) | 获取指定date的日期 |
| date_add(date, interval expr type) | 返回一个日期/时间值加上一个时间间隔expr后的时间值 |
| datediff(date1, date2) | 返回起始时间date1和结束时间date2之间的天数 |
例子:
-- date_add
select date_add(now(), interval 70 year);
5.4 流程函数
常用函数:
| 函数 | 功能 |
|---|---|
| if(value, t, f) | 如果value为true,则返回t,否则返回f |
| ifnull(value1, value2) | 如果value1不为空,返回value1,否则返回value2 |
| case when [ val1 ] then [ res1 ] ... else [ default ] end | 如果val1为true,返回res1,... 否则返回default默认值 |
| case [ expr ] when [ val1 ] then [ res1 ] ... else [ default ] end | 如果expr的值等于val1,返回res1,... 否则返回default默认值 |
例子:
select
name,
(case when age > 30 then '中年' else '青年' end)
from employee;
select
name,
(case workaddress when '北京市' then '一线城市' when '上海市' then '一线城市' else '二线城市' end) as '工作地址'
from employee;
6 约束
分类:
| 约束 | 描述 | 关键字 |
|---|---|---|
| 非空约束 | 限制该字段的数据不能为null | not null |
| 唯一约束 | 保证该字段的所有数据都是唯一、不重复的 | unique |
| 主键约束 | 主键是一行数据的唯一标识,要求非空且唯一 | primary key |
| 默认约束 | 保存数据时,如果未指定该字段的值,则采用默认值 | default |
| 检查约束(8.0.1版本后) | 保证字段值满足某一个条件 | check |
| 外键约束 | 用来让两张图的数据之间建立连接,保证数据的一致性和完整性 | foreign key |
约束是作用于表中字段上的,可以再创建表/修改表的时候添加约束。
6.1 常用约束
| 约束条件 | 关键字 |
|---|---|
| 主键 | primary key |
| 自动增长 | auto_increment |
| 不为空 | not null |
| 唯一 | unique |
| 逻辑条件 | check |
| 默认值 | default |
例子:
create table user(
id int primary key auto_increment,
name varchar(10) not null unique,
age int check(age > 0 and age < 120),
status char(1) default '1',
gender char(1)
);
6.2 外键约束(了解既可,实际开发用不到)
添加外键:
create table 表名(
字段名 字段类型,
...
[constraint] [外键名称] foreign key(外键字段名) references 主表(主表列名)
);
alter table 表名 add constraint 外键名称 foreign key (外键字段名) references 主表(主表列名);
-- 例子
alter table emp add constraint fk_emp_dept_id foreign key(dept_id) references dept(id);
删除外键:
alter table 表名 drop foreign key 外键名;
删除/更新行为
| 行为 | 说明 |
|---|---|
| no action | 当在父表中删除/更新对应记录时,首先检查该记录是否有对应外键,如果有则不允许删除/更新(与restrict一致) |
| restrict | 当在父表中删除/更新对应记录时,首先检查该记录是否有对应外键,如果有则不允许删除/更新(与no action一致) |
| cascade | 当在父表中删除/更新对应记录时,首先检查该记录是否有对应外键,如果有则也删除/更新外键在子表中的记录 |
| set null | 当在父表中删除/更新对应记录时,首先检查该记录是否有对应外键,如果有则设置子表中该外键值为null(要求该外键允许为null) |
| set default | 父表有变更时,子表将外键设为一个默认值(innodb不支持) |
更改删除/更新行为:
alter table 表名 add constraint 外键名称 foreign key (外键字段) references 主表名(主表字段名) on update 行为 on delete 行为;
7 事务
事务是一组操作的集合,事务会把所有操作作为一个整体一起向系统提交或撤销操作请求,即这些操作要么同时成功,要么同时失败。
基本操作:
-- 1. 查询张三账户余额
select * from account where name = '张三';
-- 2. 将张三账户余额-1000
update account set money = money - 1000 where name = '张三';
-- 此语句出错后张三钱减少但是李四钱没有增加
模拟sql语句错误
-- 3. 将李四账户余额+1000
update account set money = money + 1000 where name = '李四';
-- 查看事务提交方式
select @@autocommit;
-- 设置事务提交方式,1为自动提交,0为手动提交,该设置只对当前会话有效
set @@autocommit = 0;
-- 提交事务
commit;
-- 回滚事务
rollback;
-- 设置手动提交后上面代码改为:
select * from account where name = '张三';
update account set money = money - 1000 where name = '张三';
update account set money = money + 1000 where name = '李四';
commit;
操作方式二:
开启事务:
start transaction 或 begin transaction;
提交事务:
commit;
回滚事务:
rollback;
操作实例:
start transaction;
select * from account where name = '张三';
update account set money = money - 1000 where name = '张三';
update account set money = money + 1000 where name = '李四';
commit[rollback];
7.1 四大特性acid
- 原子性(atomicity):事务是不可分割的最小操作单位,要么全部成功,要么全部失败
- 一致性(consistency):事务前后的数据完整性要保证一致
- 隔离性(isolation):数据库系统提供的隔离机制,保证事务在不受外部并发操作影响的独立环境下运行
- 持久性(durability):事务一旦提交或回滚,它对数据库中的数据的改变就是永久的
7.2 并发事务
| 问题 | 描述 |
|---|---|
| 脏读 | 一个事务读到另一个事务还没提交的数据 |
| 不可重复读 | 一个事务先后读取同一条记录,但两次读取的数据不同 |
| 幻读 | 一个事务按照条件查询数据时,没有对应的数据行,但是再插入数据时,又发现这行数据已经存在 |
脏读(读取未提交数据):
| 时间顺序 | 转账事务 | 取款事务 |
|---|---|---|
| 1 | 开始事务 | |
| 2 | 开始事务 | |
| 3 | 查询账户余额为2000元 | |
| 4 | 取款1000元,余额被更改为1000元 | |
| 5 | 查询账户余额为1000元(产生脏读) | |
| 6 | 取款操作发生未知错误,事务回滚,余额变更为2000元 | |
| 7 | 转入2000元,余额被更改为3000元(脏读的1000+2000) | |
| 8 | 提交事务 |
备注:按照正常逻辑,此时账户余额应该为4000元,但是因为脏读的缘故,账户余额变成3000元
不可重复读(前后多次读取,数据内容不一致)
| 时间顺序 | 事务A | 事务B |
|---|---|---|
| 1 | 开始事务 | |
| 2 | 第一次查询,周末正常上课 | |
| 3 | 开始事务 | |
| 4 | 其他操作 | |
| 5 | 将周末更改为不上课 | |
| 6 | 提交事务 | |
| 7 | 第二次查询,周末不上课 |
备注:按照正常逻辑,事务A前后两次读取到的数据应该一致
幻读(前后多次读取,数据总量不一致)
| 时间顺序 | 事务A | 事务B |
|---|---|---|
| 1 | 开始事务 | |
| 2 | 第一次查询,数据层总量为100条 | |
| 3 | 开始事务 | |
| 4 | 其他操作 | |
| 5 | 新增100条数据 | |
| 6 | 提交事务 | |
| 7 | 第二次查询,数据总量为200条 |
备注:按照正常逻辑,事务A前后练车读取到的数据总量应该一致
并发事务隔离级别:
| 隔离级别 | 脏读 | 不可重复读 | 幻读 |
|---|---|---|---|
| read uncommitted | √ | √ | √ |
| read committed | × | √ | √ |
| repeatable read(默认) | × | × | √ |
| serializable | × | × | × |
- √表示在当前隔离级别下该问题会出现
- serializable 性能最低;read uncommitted 性能最高,数据安全性最差
查看事务隔离级别:
select @@transaction_isolation;
设置事务隔离级别:
set [ session | global ] transaction isolation level {read uncommitted | read committed | repeatable read | serializable };
session 是会话级别,表示只针对当前会话有效,global 表示对所有会话有效
8 规范数据库设计
8.1 三大范式
1NF:遵循原子性,保证表中的每一列都不可再分
- 例如下表中的姓名列应该拆分为部门+姓名两列:
| id | 姓名 | 年龄 |
|---|---|---|
| 001 | 销售表小张 | 28 |
| 002 | 技术部小明 | 23 |
2NF:在满足第一范式的基础上,遵循 唯一性,表中的数据都完全依赖主键,
- 例如下表应该拆分为学生表和课程表,应该课程名称不依赖学号这一主键
| 学号 | 姓名 | 年龄 | 课程名称 |
|---|---|---|---|
| 001 | 小明 | 20 | 语文 |
| 002 | 小红 | 18 | 数学 |
3NF:在满足第二范式的基础上,消除传递依赖
- 例如下表中的班级和班主任存在传递依赖,应该拆分成学生表和班级表
| 学号 | 姓名 | 班级 | 班主任 |
|---|---|---|---|
| 001 | 小明 | 计科1916班 | 张三 |
| 002 | 小红 | 数据1905班 | 李四 |
8.2 规范性和性能的问题
- 考虑商业化的需求和目标,(成本,用户体验!)数据库的性能更加重要
- 在规范性能的问题的时候,需要适当的考虑一下规范性
- 有时候需要给某些表增加一些冗余的字段你(将多表查询变成单表查询)
mysql进阶
1 存储引擎
mysql体系结构:
存储引擎就是存储数据、建立索引、更新/查询数据等技术的实现方式。存储引擎是基于表而不是基于库的,所以存储引擎也可以被称为表引擎。
默认存储引擎是innodb。
相关操作:
-- 查询建表语句
show create table account;
-- 建表时指定存储引擎
create table 表名(
...
) engine=innodb;
-- 查看当前数据库支持的存储引擎
show engines;
1.1 innodb
innodb 是一种兼顾高可靠性和高性能的通用存储引擎,在 mysql 5.5 之后,innodb 是默认的 mysql 引擎。
特点:
- dml 操作遵循 acid 模型,支持事务
- 行级锁,提高并发访问性能
- 支持外键约束,保证数据的完整性和正确性
文件:
- xxx.ibd: xxx代表表名,innodb 引擎的每张表都会对应这样一个表空间文件,存储该表的表结构(frm、sdi)、数据和索引。
参数:innodb_file_per_table,决定多张表共享一个表空间还是每张表对应一个表空间
知识点:
查看 mysql 变量:
show variables like 'innodb_file_per_table';
从idb文件提取表结构数据:
(在cmd运行)
ibd2sdi xxx.ibd
innodb 逻辑存储结构:

1.2 myisam
myisam 是 mysql 早期的默认存储引擎。
特点:
- 不支持事务,不支持外键
- 支持表锁,不支持行锁
- 访问速度快
文件:
- xxx.sdi: 存储表结构信息
- xxx.myd: 存储数据
- xxx.myi: 存储索引
1.3 memory
memory 引擎的表数据是存储在内存中的,受硬件问题、断电问题的影响,只能将这些表作为临时表或缓存使用。
特点:
- 存放在内存中,速度快
- hash索引(默认)
文件:
- xxx.sdi: 存储表结构信息
1.4 存储引擎特点
| 特点 | innodb | myisam | memory |
|---|---|---|---|
| 存储限制 | 64tb | 有 | 有 |
| 事务安全 | 支持 | - | - |
| 锁机制 | 行锁 | 表锁 | 表锁 |
| b+tree索引 | 支持 | 支持 | 支持 |
| hash索引 | - | - | 支持 |
| 全文索引 | 支持(5.6版本之后) | 支持 | - |
| 空间使用 | 高 | 低 | n/a |
| 内存使用 | 高 | 低 | 中等 |
| 批量插入速度 | 低 | 高 | 高 |
| 支持外键 | 支持 | - | - |
1.5 存储引擎的选择
在选择存储引擎时,应该根据应用系统的特点选择合适的存储引擎。对于复杂的应用系统,还可以根据实际情况选择多种存储引擎进行组合。
- innodb: 如果应用对事物的完整性有比较高的要求,在并发条件下要求数据的一致性,数据操作除了插入和查询之外,还包含很多的更新、删除操作,则 innodb 是比较合适的选择
- myisam: 如果应用是以读操作和插入操作为主,只有很少的更新和删除操作,并且对事务的完整性、并发性要求不高,那这个存储引擎是非常合适的。
- memory: 将所有数据保存在内存中,访问速度快,通常用于临时表及缓存。memory 的缺陷是对表的大小有限制,太大的表无法缓存在内存中,而且无法保障数据的安全性
电商中的足迹和评论适合使用 myisam 引擎,缓存适合使用 memory 引擎。
2 性能分析
2.1 查看执行频次
查看当前数据库的 insert, update, delete, select 访问频次:
show global status like 'com_______'; 或者 show session status like 'com_______';
例:show global status like 'com_______'
2.2 慢查询日志
慢查询日志记录了所有执行时间超过指定参数(long_query_time,单位:秒,默认10秒)的所有sql语句的日志。
mysql的慢查询日志默认没有开启,需要在mysql的配置文件(/etc/my.cnf)中配置如下信息:
# 开启慢查询日志开关
slow_query_log=1
# 设置慢查询日志的时间为2秒,sql语句执行时间超过2秒,就会视为慢查询,记录慢查询日志
long_query_time=2
更改后记得重启mysql服务,日志文件位置:/var/lib/mysql/localhost-slow.log
查看慢查询日志开关状态:
show variables like 'slow_query_log';
2.3 profile
show profile 能在做sql优化时帮我们了解时间都耗费在哪里。通过 have_profiling 参数,能看到当前 mysql 是否支持 profile 操作:
select @@have_profiling;
profiling 默认关闭,可以通过set语句在session/global级别开启 profiling:
set profiling = 1;
查看所有语句的耗时:
show profiles;
查看指定query_id的sql语句各个阶段的耗时:
show profile for query query_id;
查看指定query_id的sql语句cpu的使用情况
show profile cpu for query query_id;
2.4 explain
explain 或者 desc 命令获取 mysql 如何执行 select 语句的信息,包括在 select 语句执行过程中表如何连接和连接的顺序。
语法:
# 直接在select语句之前加上关键字 explain / desc
explain select 字段列表 from 表名 hwere 条件;
explain 各字段含义:
-
id:select 查询的序列号,表示查询中执行 select 子句或者操作表的顺序(id相同,执行顺序从上到下;id不同,值越大越先执行)
-
select_type:表示 select 的类型,常见取值有 simple(简单表,即不适用表连接或者子查询)、primary(主查询,即外层的查询)、union(union中的第二个或者后面的查询语句)、subquery(select/where之后包含了子查询)等
-
type:表示连接类型,性能由好到差的连接类型为 null、system、const、eq_ref、ref、range、index、all
-
possible_key:可能应用在这张表上的索引,一个或多个
-
key:实际使用的索引,如果为 null,则没有使用索引
-
key_len:表示索引中使用的字节数,该值为索引字段最大可能长度,并非实际使用长度,在不损失精确性的前提下,长度越短越好
-
rows:mysql认为必须要执行的行数,在innodb引擎的表中,是一个估计值,可能并不总是准确的
-
filtered:表示返回结果的行数占需读取行数的百分比,filtered的值越大越好
3 索引
索引是帮助 mysql 高效获取数据的数据结构(有序)。在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查询算法,这种数据结构就是索引。
优缺点:
优点:
- 提高数据检索效率,降低数据库的io成本
- 通过索引列对数据进行排序,降低数据排序的成本,降低cpu的消耗
缺点:
- 索引列也是要占用空间的
- 索引大大提高了查询效率,但降低了更新的速度,比如 insert、update、delete
-- 创建一个索引
create index id_表名_字段名 on 表(字段) -- 相当于给这个字段的所有值都添加一个数据,当查询大量数据的时候就可以显著提高查询速度
-- 索引的使用
-- 1、在创建表的时候给字段增加索引
-- 2、创建完毕后,增加索引
-- 显示所有的索引信息
show index from 表名
-- 增加一个全文索引 (索引名) 列名
alter table 表名.字段名 add fulltext index `索引名`(列名)
-- explain 分析sql执行的状况
explain select * from 表名; -- 非全文索引
explain select * from 表名 where match(列名) against('字段') -- 全文索引
2.1 索引的数据结构
网站:http://blog.codinglabs.org/articles/theory-of-mysql-index.html Http://blog.codinglabs.org/articles/theory-of-mysql-index.html
| 索引结构 | 描述 |
|---|---|
| b+tree | 最常见的索引类型,大部分引擎都支持b+树索引 |
| hash | 底层数据结构是用哈希表实现,只有精确匹配索引列的查询才有效,不支持范围查询 |
| r-tree(空间索引) | 空间索引是 myisam 引擎的一个特殊索引类型,主要用于地理空间数据类型,通常使用较少 |
| full-text(全文索引) | 是一种通过建立倒排索引,快速匹配文档的方式,类似于 lucene, solr, es |
| 索引 | innodb | myisam | memory |
|---|---|---|---|
| b+tree索引 | 支持 | 支持 | 支持 |
| hash索引 | 不支持 | 不支持 | 支持 |
| r-tree索引 | 不支持 | 支持 | 不支持 |
| full-text | 5.6版本后支持 | 支持 | 不支持 |
2.1.1 b-tree

二叉树的缺点可以用红黑树来解决:

红黑树也存在大数据量情况下,层级较深,检索速度慢的问题。
为了解决上述问题,可以使用 b-tree 结构。
b-tree (多路平衡查找树) 以一棵最大度数(max-degree,指一个节点的子节点个数)为5(5阶)的 b-tree 为例(每个节点最多存储4个key,5个指针)
b-tree 的数据插入过程动画参照:https://www.bilibili.com/video/bv1kr4y1i7ru?p=68
演示地址:https://www.cs.usfca.edu/~galles/visualization/btree.html
2.1.2 b+tree
应用:Java中HashMap的底层实现,在JDK1.8中为了解决过度哈希冲突带来的长链表,会将链表转为红黑树;Linux底层的CFS进程调度算法中,vruntime利用红黑树来进行存储;多路复用技术的Epoll的核心结构也是红黑树+双向链表
性质:
- 性质1:每个节点要么是黑色,要么是红色。
- 性质2:根节点是黑色。
- 性质3:每个叶子节点(NIL)是黑色。
- 性质4:每个红色结点的两个子结点一定都是黑色。
- 性质5:任意一结点到每个叶子结点的路径都包含数量相同的黑结点。
结构图:
与 b-tree 的区别:
- 所有的数据都会出现在叶子节点
- 叶子节点形成一个单向链表
mysql 索引数据结构对经典的 b+tree 进行了优化。在原 b+tree 的基础上,增加一个指向相邻叶子节点的链表指针,就形成了带有顺序指针的 b+tree,提高区间访问的性能。

2.1.3 hash
哈希索引就是采用一定的hash算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储在hash表中。
如果两个(或多个)键值,映射到一个相同的槽位上,他们就产生了hash冲突(也称为hash碰撞),可以通过链表来解决。
特点:
- hash索引只能用于对等比较(=、in),不支持范围查询(betwwn、>、<、...)
- 无法利用索引完成排序操作
- 查询效率高,通常只需要一次检索就可以了,效率通常要高于 b+tree 索引
存储引擎支持:
- memory
- innodb: 具有自适应hash功能,hash索引是存储引擎根据 b+tree 索引在指定条件下自动构建的
2.1.4 面试题
- 为什么 innodb 存储引擎选择使用 b+tree 索引结构?
- 相对于二叉树,层级更少,搜索效率高
- 对于 b-tree,无论是叶子节点还是非叶子节点,都会保存数据,这样导致一页中存储的键值减少,指针也跟着减少,要同样保存大量数据,只能增加树的高度,导致性能降低
- 相对于 hash 索引,b+tree 支持范围匹配及排序操作
2.2 索引分类
| 分类 | 含义 | 特点 | 关键字 |
|---|---|---|---|
| 主键索引 | 针对于表中主键创建的索引 | 默认自动创建,只能有一个 | primary |
| 唯一索引 | 避免同一个表中某数据列中的值重复 | 可以有多个 | unique |
| 常规索引 | 快速定位特定数据 | 可以有多个 | |
| 全文索引 | 全文索引查找的是文本中的关键词,而不是比较索引中的值 | 可以有多个 | fulltext |
在 innodb 存储引擎中,根据索引的存储形式,又可以分为以下两种:
| 分类 | 含义 | 特点 |
|---|---|---|
| 聚集索引(clustered index) | 将数据存储与索引放一块,索引结构的叶子节点保存了行数据 | 必须有,而且只有一个 |
| 二级索引(secondary index) | 将数据与索引分开存储,索引结构的叶子节点关联的是对应的主键 | 可以存在多个 |
演示图:


聚集索引选取规则:
- 如果存在主键,主键索引就是聚集索引
- 如果不存在主键,将使用第一个唯一(unique)索引作为聚集索引
- 如果表没有主键或没有合适的唯一索引,则 innodb 会自动生成一个 rowid 作为隐藏的聚集索引
2.2.1思考题
1. 以下 sql 语句,哪个执行效率高?为什么?
select * from user where id = 10;
select * from user where name = 'arm';
-- 备注:id为主键,name字段创建的有索引
答:第一条语句,因为第二条需要回表查询,相当于两个步骤。
2. innodb 主键索引的 b+tree 高度为多少?
答:假设一行数据大小为1k,一页中可以存储16行这样的数据。innodb 的指针占用6个字节的空间,主键假设为bigint,占用字节数为8.
可得公式:n * 8 + (n + 1) * 6 = 16 * 1024,其中 8 表示 bigint 占用的字节数,n 表示当前节点存储的key的数量,(n + 1) 表示指针数量(比key多一个)。算出n约为1170。
如果树的高度为2,那么他能存储的数据量大概为:1171 * 16 = 18736;
如果树的高度为3,那么他能存储的数据量大概为:1171 * 1171 * 16 = 21939856。
另外,如果有成千上万的数据,那么就要考虑分表,涉及运维篇知识。
2.3 语法
创建索引:
create [ unique | fulltext ] index index_name on table_name (index_col_name, ...);
如果不加 create 后面不加索引类型参数,则创建的是常规索引
查看索引:
show index from table_name;
删除索引:
drop index index_name on table_name;
案例:
-- name字段为姓名字段,该字段的值可能会重复,为该字段创建索引
create index idx_user_name on tb_user(name);
-- phone手机号字段的值非空,且唯一,为该字段创建唯一索引
create unique index idx_user_phone on tb_user (phone);
-- 为profession, age, status创建联合索引
create index idx_user_pro_age_stat on tb_user(profession, age, status);
-- 为email建立合适的索引来提升查询效率
create index idx_user_email on tb_user(email);
-- 删除索引
drop index idx_user_email on tb_user;
2.4 使用规则
2.4.1 最左前缀法则
如果索引关联了多列(联合索引),要遵守最左前缀法则,最左前缀法则指的是查询从索引的最左列开始,并且不跳过索引中的列。
如果跳跃某一列,索引将部分失效(后面的字段索引失效)。
联合索引中,出现范围查询(<, >),范围查询右侧的列索引失效。可以用>=或者<=来规避索引失效问题。
2.4.2 索引失效情况
- 在索引列上进行运算操作,索引将失效。如:
explain select * from tb_user where substring(phone, 10, 2) = '15'; - 字符串类型字段使用时,不加引号,索引将失效。如:
explain select * from tb_user where phone = 17799990015;,此处phone的值没有加引号 - 模糊查询中,如果仅仅是尾部模糊匹配,索引不会是失效;如果是头部模糊匹配,索引失效。如:
explain select * from tb_user where profession like '%工程';,前后都有 % 也会失效。 - 用 or 分割开的条件,如果 or 其中一个条件的列没有索引,那么涉及的索引都不会被用到。
- 如果 mysql 评估使用索引比全表更慢,则不使用索引。
2.4.3 sql 提示
是优化数据库的一个重要手段,简单来说,就是在sql语句中加入一些人为的提示来达到优化操作的目的。
例如,使用索引:
explain select * from tb_user use index(idx_user_pro) where profession="软件工程";
不使用哪个索引:
explain select * from tb_user ignore index(idx_user_pro) where profession="软件工程";
必须使用哪个索引:
explain select * from tb_user force index(idx_user_pro) where profession="软件工程";
use 是建议,实际使用哪个索引 mysql 还会自己权衡运行速度去更改,force就是无论如何都强制使用该索引。
2.4.4 覆盖索引&回表查询
尽量使用覆盖索引(查询使用了索引,并且需要返回的列,在该索引中已经全部能找到),减少 select *。
explain 中 extra 字段含义:
using index condition:查找使用了索引,但是需要回表查询数据
using where; using index;:查找使用了索引,但是需要的数据都在索引列中能找到,所以不需要回表查询
如果在聚集索引中直接能找到对应的行,则直接返回行数据,只需要一次查询,哪怕是select *;如果在辅助索引中找聚集索引,如select id, name from xxx where name='xxx';,也只需要通过辅助索引(name)查找到对应的id,返回name和name索引对应的id即可,只需要一次查询;如果是通过辅助索引查找其他字段,则需要回表查询,如select id, name, gender from xxx where name='xxx';
所以尽量不要用select *,容易出现回表查询,降低效率,除非有联合索引包含了所有字段
面试题:一张表,有四个字段(id, username, password, status),由于数据量大,需要对以下sql语句进行优化,该如何进行才是最优方案:
select id, username, password from tb_user where username='itcast';
解:给username和password字段建立联合索引,则不需要回表查询,直接覆盖索引
2.4.5 前缀索引
当字段类型为字符串(varchar, text等)时,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘io,影响查询效率,此时可以只降字符串的一部分前缀,建立索引,这样可以大大节约索引空间,从而提高索引效率。
语法:create index idx_xxxx on table_name(columnn(n));
前缀长度:可以根据索引的选择性来决定,而选择性是指不重复的索引值(基数)和数据表的记录总数的比值,索引选择性越高则查询效率越高,唯一索引的选择性是1,这是最好的索引选择性,性能也是最好的。
求选择性公式:
select count(distinct email) / count(*) from tb_user;
select count(distinct substring(email, 1, 5)) / count(*) from tb_user;
show index 里面的sub_part可以看到接取的长度
2.4.6 单列索引&联合索引
单列索引:即一个索引只包含单个列
联合索引:即一个索引包含了多个列
在业务场景中,如果存在多个查询条件,考虑针对于查询字段建立索引时,建议建立联合索引,而非单列索引。
单列索引情况:
explain select id, phone, name from tb_user where phone = '17799990010' and name = '韩信';
这句只会用到phone索引字段
注意事项
- 多条件联合查询时,mysql优化器会评估哪个字段的索引效率更高,会选择该索引完成本次查询
2.5 设计原则
- 针对于数据量较大,且查询比较频繁的表建立索引
- 针对于常作为查询条件(where)、排序(order by)、分组(group by)操作的字段建立索引
- 尽量选择区分度高的列作为索引,尽量建立唯一索引,区分度越高,使用索引的效率越高
- 如果是字符串类型的字段,字段长度较长,可以针对于字段的特点,建立前缀索引
- 尽量使用联合索引,减少单列索引,查询时,联合索引很多时候可以覆盖索引,节省存储空间,避免回表,提高查询效率
- 要控制索引的数量,索引并不是多多益善,索引越多,维护索引结构的代价就越大,会影响增删改的效率
- 如果索引列不能存储null值,请在创建表时使用not null约束它。当优化器知道每列是否包含null值时,它可以更好地确定哪个索引最有效地用于查询
3 sql 优化
3.1 插入数据
普通插入:
- 采用批量插入(一次插入的数据不建议超过1000条)
- 手动提交事务
- 主键顺序插入
大批量插入:
如果一次性需要插入大批量数据,使用insert语句插入性能较低,此时可以使用mysql数据库提供的load指令插入。
# 客户端连接服务端时,加上参数 --local-infile(这一行在bash/cmd界面输入)
mysql --local-infile -u root -p
# 设置全局参数local_infile为1,开启从本地加载文件导入数据的开关
set global local_infile = 1;
select @@local_infile;
# 执行load指令将准备好的数据,加载到表结构中
load data local infile '/root/sql1.log' into table 'tb_user' fields terminated by ',' lines terminated by '\n';
3.2 主键优化
数据组织方式:在innodb存储引擎中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表(index organized table, iot)
页分裂:页可以为空,也可以填充一般,也可以填充100%,每个页包含了2-n行数据(如果一行数据过大,会行溢出),根据主键排列。
页合并:当删除一行记录时,实际上记录并没有被物理删除,只是记录被标记(flaged)为删除并且它的空间变得允许被其他记录声明使用。当页中删除的记录到达 merge_threshold(默认为页的50%),innodb会开始寻找最靠近的页(前后)看看是否可以将这两个页合并以优化空间使用。
merge_threshold:合并页的阈值,可以自己设置,在创建表或创建索引时指定
文字说明不够清晰明了,具体可以看视频里的ppt演示过程:https://www.bilibili.com/video/bv1kr4y1i7ru?p=90
主键设计原则:
- 满足业务需求的情况下,尽量降低主键的长度
- 插入数据时,尽量选择顺序插入,选择使用 auto_increment 自增主键
- 尽量不要使用 uuid 做主键或者是其他的自然主键,如身份证号
- 业务操作时,避免对主键的修改
3.3 order by优化
- using filesort:通过表的索引或全表扫描,读取满足条件的数据行,然后在排序缓冲区 sort buffer 中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫 filesort 排序
- using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为 using index,不需要额外排序,操作效率高
如果order by字段全部使用升序排序或者降序排序,则都会走索引,但是如果一个字段升序排序,另一个字段降序排序,则不会走索引,explain的extra信息显示的是using index, using filesort,如果要优化掉using filesort,则需要另外再创建一个索引,如:create index idx_user_age_phone_ad on tb_user(age asc, phone desc);,此时使用select id, age, phone from tb_user order by age asc, phone desc;会全部走索引
总结:
- 根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则
- 尽量使用覆盖索引
- 多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(asc/desc)
- 如果不可避免出现filesort,大数据量排序时,可以适当增大排序缓冲区大小 sort_buffer_size(默认256k)
3.4 group by优化
- 在分组操作时,可以通过索引来提高效率
- 分组操作时,索引的使用也是满足最左前缀法则的
如索引为idx_user_pro_age_stat,则句式可以是select ... where profession order by age,这样也符合最左前缀法则
3.5 limit优化
常见的问题如limit 2000000, 10,此时需要 mysql 排序前2000000条记录,但仅仅返回2000000 - 2000010的记录,其他记录丢弃,查询排序的代价非常大。
优化方案:一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询形式进行优化
例如:
-- 此语句耗时很长
select * from tb_sku limit 9000000, 10;
-- 通过覆盖索引加快速度,直接通过主键索引进行排序及查询
select id from tb_sku order by id limit 9000000, 10;
-- 下面的语句是错误的,因为 mysql 不支持 in 里面使用 limit
-- select * from tb_sku where id in (select id from tb_sku order by id limit 9000000, 10);
-- 通过连表查询即可实现第一句的效果,并且能达到第二句的速度
select * from tb_sku as s, (select id from tb_sku order by id limit 9000000, 10) as a where s.id = a.id;
3.6 count优化
myisam 引擎把一个表的总行数存在了磁盘上,因此执行 count(*) 的时候会直接返回这个数,效率很高(前提是不适用where);
innodb 在执行 count(*) 时,需要把数据一行一行地从引擎里面读出来,然后累计计数。
优化方案:自己计数,如创建key-value表存储在内存或硬盘,或者是用redis
count的几种用法:
- 如果count函数的参数(count里面写的那个字段)不是null(字段值不为null),累计值就加一,最后返回累计值
- 用法:count(*)、count(主键)、count(字段)、count(1)
- count(主键)跟count(*)一样,因为主键不能为空;count(字段)只计算字段值不为null的行;count(1)引擎会为每行添加一个1,然后就count这个1,返回结果也跟count(*)一样;count(null)返回0
各种用法的性能:
- count(主键):innodb引擎会遍历整张表,把每行的主键id值都取出来,返回给服务层,服务层拿到主键后,直接按行进行累加(主键不可能为空)
- count(字段):没有not null约束的话,innodb引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,计数累加;有not null约束的话,innodb引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,直接按行进行累加
- count(1):innodb 引擎遍历整张表,但不取值。服务层对于返回的每一层,放一个数字 1 进去,直接按行进行累加
- count(*):innodb 引擎并不会把全部字段取出来,而是专门做了优化,不取值,服务层直接按行进行累加
按效率排序:count(字段) < count(主键) < count(1) < count(*),所以尽量使用 count(*)
3.7 update优化(避免行锁升级为表锁)
innodb 的行锁是针对索引加的锁,不是针对记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁。
如以下两条语句:
update student set no = '123' where id = 1;,这句由于id有主键索引,所以只会锁这一行;
update student set no = '123' where name = 'test';,这句由于name没有索引,所以会把整张表都锁住进行数据更新,解决方法是给name字段添加索引
权限一览表
具体权限的作用详见官方文档
grant 和 revoke 允许的静态权限
| privilege | grant table column | context |
|---|---|---|
all [privileges] |
synonym for “all privileges” | server administration |
alter |
alter_priv |
tables |
alter routine |
alter_routine_priv |
stored routines |
create |
create_priv |
databases, tables, or indexes |
create role |
create_role_priv |
server administration |
create routine |
create_routine_priv |
stored routines |
create tablespace |
create_tablespace_priv |
server administration |
create temporary tables |
create_tmp_table_priv |
tables |
create user |
create_user_priv |
server administration |
create view |
create_view_priv |
views |
delete |
delete_priv |
tables |
drop |
drop_priv |
databases, tables, or views |
drop role |
drop_role_priv |
server administration |
event |
event_priv |
databases |
execute |
execute_priv |
stored routines |
file |
file_priv |
file access on server host |
grant option |
grant_priv |
databases, tables, or stored routines |
index |
index_priv |
tables |
insert |
insert_priv |
tables or columns |
lock tables |
lock_tables_priv |
databases |
process |
process_priv |
server administration |
proxy |
see proxies_priv table |
server administration |
references |
references_priv |
databases or tables |
reload |
reload_priv |
server administration |
replication client |
repl_client_priv |
server administration |
replication slave |
repl_slave_priv |
server administration |
select |
select_priv |
tables or columns |
show databases |
show_db_priv |
server administration |
show view |
show_view_priv |
views |
shutdown |
shutdown_priv |
server administration |
super |
super_priv |
server administration |
trigger |
trigger_priv |
tables |
update |
update_priv |
tables or columns |
usage |
synonym for “no privileges” | server administration |
grant 和 revoke 允许的动态权限
| privilege | context |
|---|---|
application_password_admin |
dual password administration |
audit_abort_exempt |
allow queries blocked by audit log filter |
audit_admin |
audit log administration |
authentication_policy_admin |
authentication administration |
backup_admin |
backup administration |
binlog_admin |
backup and replication administration |
binlog_encryption_admin |
backup and replication administration |
clone_admin |
clone administration |
connection_admin |
server administration |
encryption_key_admin |
server administration |
firewall_admin |
firewall administration |
firewall_exempt |
firewall administration |
firewall_user |
firewall administration |
flush_optimizer_costs |
server administration |
flush_status |
server administration |
flush_tables |
server administration |
flush_user_resources |
server administration |
group_replication_admin |
replication administration |
group_replication_stream |
replication administration |
innodb_redo_log_archive |
redo log archiving administration |
ndb_stored_user |
ndb cluster |
passwordless_user_admin |
authentication administration |
persist_ro_variables_admin |
server administration |
replication_applier |
privilege_checks_user for a replication channel |
replication_slave_admin |
replication administration |
resource_group_admin |
resource group administration |
resource_group_user |
resource group administration |
role_admin |
server administration |
session_variables_admin |
server administration |
set_user_id |
server administration |
show_routine |
server administration |
system_user |
server administration |
system_variables_admin |
server administration |
table_encryption_admin |
server administration |
version_token_admin |
server administration |
xa_recover_admin |
server administration |
图形化界面工具
- workbench(免费): http://dev.mysql.com/downloads/workbench/
- navicat(收费,试用版30天): https://www.navicat.com/en/download/navicat-for-mysql
- sequel pro(开源免费,仅支持mac os): http://www.sequelpro.com/
- heidisql(免费): http://www.heidisql.com/
- phpmyadmin(免费): https://www.phpmyadmin.net/
- sqlyog: https://sqlyog.en.softonic.com/
小技巧
- 在sql语句之后加上
\g会将结果的表格形式转换成行文本形式 - 查看mysql数据库占用空间:
select table_schema "database name"
, sum(data_length + index_length) / (1024 * 1024) "database size in mb"
from information_schema.tables
group by table_schema;
SELECT table_schema "Database Name"
, SUM(data_length + index_length) / (1024 * 1024) "Database Size in MB"
FROM information_schema.TABLES
GROUP BY table_schema;

浙公网安备 33010602011771号