一、表设计上的坑

  1、字段设计

  1.1 字段类型设计

    尽量使用整型表示字符串:

    `INET_ATON(str)`,address to number

    `INET_NTOA(number)`,number to address

  1.2 定长和非定长数据类型的选择

    1、decimal不会损失精度,存储空间会随数据的增大而增大。double占用固定空间,较大数的存储会损失精度。

    2、定长`char`,非定长`varchar、text`(上限65535,其中`varchar`还会消耗1-3字节记录长度,而`text`使用额外空间记录长度)字段长度不要设置过长,会占用空间。

  1.3 尽可能使用not null

    1、非null字段的处理要比null字段的处理高效些!且不需要判断是否为null。

    2、null在MySQL中,不好处理,存储需要额外空间,运算也需要特殊的运算符。如select null = null和select null <> null(<>为不等号)有着同样的结果,只能通过is null和is not null来判断字段是否为 null。

  1.4 单表字段不宜过多,可以参考使用预留字段,否则查找效率低下(分库分表)。

  2、范式要求 (降低数据冗余)

  • ​ 第一范式:字段原子性
  • ​ 第二范式:消除对主键的部分依赖
  • ​ 第三范式:消除对主键的传递依赖

二、常用存储引擎的选择(engine=***)

  MyISAM InnoDB
索引类型 非聚簇索引 聚簇索引
支持事务
支持表锁
支持行锁
支持外键
支持全文索引full text 是(5.6后支持)
适合操作类型 大量select 大量insert、delete、update

三、索引机制

  1、索引介绍

​   索引是帮助 MySQL 高效获取数据的数据结构。

  ​ 索引存储在文件系统中。

​   索引的文件存储形式与存储引擎有关。

  2、索引分类:

  mysql索引的五种类型:主键索引、唯一索引、普通索引和全文索引、组合索引。通过给字段添加索引可以提高数据的读取速度,提高项目的并发能力和抗压能力。

  主键索引

    主键是一种唯一性索引,但它必须指定为PRIMARY KEY,每个表只能有一个主键。如果没有主键,那么会选择唯一键,如果没有唯一键,那么会生成一个6位的row_id来作为主键。

  唯一索引

    索引列的所有值都只能出现一次,即必须唯一,值可以为空。

  普通索引

    基本的索引类型,值可以为空,没有唯一性的限制。

  全文索引

    全文索引的索引类型为FULLTEXT。全文索引可以在varchar、char、text类型的列上创建。

  组合索引

    多列值组成一个索引,专门用于组合搜索。索引采用最左原则。

  3、索引的数据结构

    hash、二叉树、红黑树、B树、B+树(为什么选用B+树请参考 https://www.cnblogs.com/jing99/p/11760993.html)

  4、索引的应用场景

  • where查询条件尽可能将索引列设置为条件表达式。
  • order by在查询的时候会使用索引列。
  • join on的条件列设置为索引列。
  • 索引覆盖:查询的列如果全部建立过索引,那么会直接查询索引,而不会查询全部数据。
  • 字段要独立出现:select * from user where id = 20-1; select * from user where id+1 = 20;
  • 模糊查询的时候,尽量不要将like语句匹配表达式以通配符开头 (like '%abc'),而是尽量采用 ('abc%),通配符开头会触发全文扫描。
  • 在使用状态值的时候不要创建索引。

四、缓存设置

  1、在配置文件中开启缓存

  在[mysqld]段中配置query_cache_size:

    0:不开启

    1:开启,默认缓存所有,需要在SQL语句中增加select sql-no-cache提示来放弃缓存

    2:开启,默认都不缓存,需要在SQL语句中增加select sql-cache来主动缓存(常用)

  2、在客户端设置缓存大小

  通过配置项 set global query_cache_size=64x1024x1024

五、数据分区

  单机情况下MySQL性能很高,但是当数据量较大并且是分布式访问的时候,MySQL的性能就开始下降,需要将数据分散到多组存储文件中,以保证单个文件的执行效率。

  分区算法:

  1、hash(field) 适用于整型字段

  ​2、key(field) 适用于字符串类型

​  3、range算法 按照数据大小范围分区

create table article_range(
    id int auto_increment,
    title varchar(64),
    content text,
    created_time int,   -- 发布时间到1970-1-1的毫秒数
    PRIMARY KEY (id,created_time)   -- 要求分区依据字段必须是主键的一部分
)charset=utf8
PARTITION BY RANGE(created_time)(
    PARTITION p201808 VALUES less than (1535731199),    -- select UNIX_TIMESTAMP('2018-8-31 23:59:59')
    PARTITION p201809 VALUES less than (1538323199),    -- 2018-9-30 23:59:59
    PARTITION p201810 VALUES less than (1541001599)    -- 2018-10-31 23:59:59
);

  4、list算法

create table article_list(
    id int auto_increment,
    title varchar(64),
    content text,
    status TINYINT(1),  -- 文章状态:0-草稿,1-完成但未发布,2-已发布
    PRIMARY KEY (id,status) -- 要求分区依据字段必须是主键的一部分
)charset=utf8
PARTITION BY list(status)(
    PARTITION writing values in(0,1),   -- 未发布的放在一个分区   
    PARTITION published values in (2)   -- 已发布的放在一个分区
);
insert into article_list values(null,'mysql优化','内容示例',0);
flush tables;

六、集群

  1、主从复制

  mysql主从是异步复制过程

  • master开启bin-log功能,日志文件用于记录数据库的读写增删。
  • 需要开启3个线程,master IO线程,slave开启 IO线程、SQL线程。
  • Slave 通过IO线程连接master,并且请求某个bin-log,position之后的内容。
  • MASTER服务器收到slave IO线程发来的日志请求信息,io线程去将bin-log内容,position返回给slave IO线程。
  • slave服务器收到bin-log日志内容,将bin-log日志内容写入relay-log中继日志,创建一个master.info的文件,该文件记录了master ip 用户名 密码 master bin-log名称,bin-log position。
  • slave端开启SQL线程,实时监控relay-log日志内容是否有更新,解析文件中的SQL语句,在slave数据库中去执行。

  2、读写分离

  读写分离是依赖于主从复制,而主从复制又是为读写分离服务的。MySQL读写分离是指让master处理写操作,让slave处理读操作,非常适用于读操作量比较大的场景,可减轻master的压力。

  3、负载均衡

    轮询

    加权轮询

    负载分配

  4、高可用

  在服务器架构时,为了保证服务器7x24不宕机在线状态,需要为每台单点服务器(由一台服务器提供服务的服务器,如写服务器、数据库中间件)提供冗余机。

  对于写服务器来说,需要提供一台同样的写-冗余服务器,当写服务器健康时(写-冗余通过心跳检测),写-冗余作为一个从机的角色复制写服务器的内容与其做一个同步;当写服务器宕机时,写-冗余服务器便顶上来作为写服务器继续提供服务。对外界来说这个处理过程是透明的,即外界仅通过一个IP访问服务。

七、SQL语句优化

  1、数据库导入语句

    1.1、导入时先禁用索引和约束:

    alter table table-name disable keys

    待数据导入完成之后,再开启索引和约束,一次性创建索引

    alter table table-name enable keys

    1.2、数据库如果使用的引擎是innodb,那么它默认会给每条写指令加上事务(这也会消耗一定的时间),因此建议先手动开启事务,再执行一定量的批量导入,最后手动提交事务。

    1.3、如果批量导入的SQL指令格式相同只是数据不同,那么你应该先prepare预编译一下,这样也能节省很多重复编译的时间。

  2、limit offsets,row

  尽量保证不要出现大的offset,比如limit 10000,10相当于对已查询出来的行数弃掉前10000行后再取10行,完全可以加一些条件过滤一下(完成筛选),而不应该使用limit跳过已查询到的数据。

  3、select * 要少用

  即尽量选择自己需要的字段`select`,但这个影响不是很大,因为网络传输多了几十上百字节也没多少延时,并且现在流行的ORM框架都是用的`select *`,只是我们在设计表的时候注意将大数据量的字段分离。

  4、单表和多表查询

  多表查询:join、子查询都是涉及到多表的查询。如果你使用explain分析执行计划你会发现多表查询也是一个表一个表的处理,最后合并结果。因此可以说单表查询将计算压力放在了应用程序上,而多表查询将计算压力放在了数据库上。

  谓词下推:将外层查询块的 WHERE 子句中的谓词移入所包含的较低层查询块(例如视图),从而能够提早进行数据过滤以及有可能更好地利用索引的技术。

-- 有表如下:
-- t_student(student_id, student_name, student_age)
-- t_score(score_id, student_id, course_id, score_number)

-- 优化前的SQL
SELECT *
FROM t_student,t_score
WHERE t_score.student_id=t_student.student_id
AND t_score.score_id=2;

-- 优化后的SQL
SELECT * FROM t_student t1 right JOIN (
SELECT * from t_score WHERE score_id=2
) t2
ON t1.student_id=t2.student_id;

  5、count(*)

  在MyISAM存储引擎中,会自动记录表的行数,因此使用count(*)能够快速返回。而innodb内部没有这样一个计数器,需要我们手动统计记录数量。因此使用count(1)或者count(column)。

  6、开启慢查询日志

  配置项:slow_query_log

  可以使用 show variables like ‘slov_query_log’ 查看是否开启,如果状态值为OFF,可以使用 set GLOBAL slow_query_log = on来开启,它会在datadir下产生一个xxx-slow.log的文件。便于以后对SQL的慢查询执行优化。

八、MySQL配置

​   1、max_connections 最大客户端连接数

​   2、table_open_cache 表文件缓存

​   3、key_buffer_size 索引缓存大小

​   4、innodb_buffer_pool_size innodb存储引擎缓存池大小

​   5、innodb_file_per_table 将每一个表的数据放在一个文件中而不是共享表空间

posted on 2019-10-30 02:50  kosamino  阅读(478)  评论(0编辑  收藏  举报