MySQL: 整体优化

 

基本情景

MySQL数据库作发布系统的存储，一天五万条以上的增量，预计运维三年,怎么优化？
a. 设计良好的数据库结构，允许部分数据冗余，尽量避免join查询，提高效率。
b. 选择合适的表字段数据类型（如char, varchar, longint）和存储引擎(如InnoDB)，适当的添加索引。
c. mysql库主从读写分离。
d. 找规律分表，减少单表中的数据量提高查询速度。
e. 添加缓存机制，比如memcached，apc等。
f. 不经常改动的页面，生成静态页面。
g. 书写高效率的SQL。比如 SELECT * FROM TABEL 改为 SELECT field_1, field_2, field_3 FROM TABLE。

整体上的考虑的话：
1. 数据库的存储引擎
2. 数据库的按照规律分表、建表字段和索引设计 ===》表结构、表字段、表索引优化
3. 查询的时候要尽量高效查询===》表查询语句优化
4. 系统配置和硬件优化

 

表字段优化

选取最适用的字段属性，尽可能减少定义字段宽度， 例如，省份、性别，最好适用ENUM。
比如nickname尽量控制字符的长度：varchar和char的区别
尽量把字段设置NOT NULL。

 

索引优化

根据where条件和orderby来建立索引

 

查询优化

select 具体有限字段要比select * 要好；
where的条件和索引一致就会索引扫描， 数据少的条件放在前面。
能不全表扫描的就不要用全表扫描。

不会使用索引而使用全表扫描方式

in/not in,
null/ is not null,
like

 

导致全表扫描情况

1. 不要轻易使用IN操作符，因为In会进行全表扫描。

2. 使用not in也不会走索引，推荐方案：用not exists或者（外联结+判断为空）来代替

3. <> 操作符（不等于） 使用<>同样不会使用索引，因此对它的处理只会产生全表扫描, 推荐方案：用其它相同功能的操作运算代替，如a<>0 改为 a>0 or a<0, a<>’’ 改为 a>’’

4. where字句中IS NULL 或IS NOT NULL操作（判断字段是否为空）或者表达式操作， 都会全表扫描
判断字段是否为空一般是不会应用索引的，因为B+树索引是不索引空值的。推荐方案：用其它相同功能的操作运算代替，如a is not null 改为 a>0 或a>’’等。

5. > 及 < 操作符（大于或小于操作符）
大于或小于操作符一般情况下是不用调整的，因为它有索引就会采用索引查找
但有的情况下可以对它进行优化，如一个表有100万记录，一个数值型字段A，30万记录的A=0，30万记录的A=1，39万记录的A=2，1万记录的A=3。
那么执行A>2与A>=3的效果就有很大的区别了，因为A>2时ORACLE会先找出为2的记录索引再进行比较，而A>=3时ORACLE则直接找到=3的记录索引, 所以应该尽量使用>=3。

6.LIKE操作符
LIKE操作符可以应用通配符查询，里面的通配符组合可能达到几乎是任意的查询，但是如果用得不好则会产生性能上的问题，如LIKE ‘%5400%’ 这种查询不会引用索引，而LIKE ‘5400%’则会引用范围索引。
可以采用substr(column,1,4)=’5400’

7.UNION操作符
UNION在进行表链接后会筛选掉重复的记录，所以在表链接后会对所产生的结果集进行排序运算，删除重复的记录再返回结果。实际大部分应用中是不会产生重复的记录，最常见的是过程表与历史表UNION。如：
（select * from gc_dfys） union （select * from ls_jg_dfys）
这个SQL在运行时先取出两个表的结果，再用排序空间进行排序删除重复的记录，最后返回结果集，如果表数据量大的话可能会导致用磁盘进行排序。
推荐方案：采用UNION ALL操作符替代UNION，因为UNION ALL操作只是简单的将两个结果合并后就返回。

8.SQL书写的影响（针对oracle而言）
同一功能同一性能不同写法SQL的影响
A程序员写的为Select * from zl_yhjbqk
B程序员写的为Select * from dlyx.zl_yhjbqk（带表所有者的前缀）
C程序员写的为Select * from DLYX.ZLYHJBQK（大写表名）
D程序员写的为Select * from DLYX.ZLYHJBQK（中间多了空格）
以上四个SQL在ORACLE分析整理之后产生的结果及执行的时间是一样的，但是从ORACLE共享内存SGA的原理，可以得出ORACLE对每个 SQL都会对其进行一次分析，并且占用共享内存，
如果将SQL的字符串及格式写得完全相同则ORACLE只会分析一次，共享内存也只会留下一次的分析结果，这不仅可以减少分析SQL的时间，而且可以减少共享内存重复的信息，ORACLE也可以准确统计SQL的执行频率。

9.WHERE后面的条件顺序影响（将数据量小的条件放在前面）
WHERE子句后面的条件顺序对大数据量表的查询会产生直接的影响，如
Select * from zl_yhjbqk where dy_dj = '1K以下' and xh_bz=1
Select * from zl_yhjbqk where xh_bz=1 and dy_dj = '1K以下'
以上两个SQL中dy_dj及xh_bz两个字段都没进行索引，所以执行的时候都是全表扫描，
第一条SQL的dy_dj ='1KV以下'条件在记录集内比率为99%，而xh_bz=1的比率只为0.5%，在进行第一条SQL的时候99%条记录都进行dy_dj及xh_bz的比较，
而在进行第二条SQL的时候0.5%条记录都进行dy_dj及xh_bz的比较，以此可以得出第二条SQL的CPU占用率明显比第一条低。

10.查询表顺序的影响
在FROM后面的表中的列表顺序会对SQL执行性能影响，在没有索引及ORACLE没有对表进行统计分析的情况下ORACLE会按表出现的顺序进行链接，由此因为表的顺序不对会产生十分耗服务器资源的数据交叉。
（注：如果对表进行了统计分析，ORACLE会自动先进小表的链接，再进行大表的链接）