聊聊数据库~2.SQL环境篇

传统数据库

上篇文章:聊聊数据库~开篇 https://www.cnblogs.com/dotnetcrazy/p/9690466.html

本来准备直接开讲NoSQL的(当时开篇就是说的NoSQL)考虑到有些同志可能连MySQL系都没接触过,所以我们2019说数据系的时候预计从MySQL(穿插MSSQL)开始,这篇文章就当试水篇,效果好就继续往下写~(这篇偏理论和运维)

1.1.MariaDB and MySQL

官方文档:https://mariadb.com/kb/zh-cn/mariadb

目前主流:MySQL 5.7 or MariaDB 5.5.x(推荐)

多一句嘴,MySQL当年被Oracle收购后,MySQL之父觉得靠Oracle维护MySQL很不靠谱,然后就跳槽弄了个MariaDB(很多Oracle竞争对手扶持着),目前MariaDB是发展最快的MySQL分支版本(PS:MySQL现在是双协议了,大部分公司用的版本都是<=5.7

然后得说下迁移问题:MySQL 5.xMariaDB 5.x基本上是无缝的,MariaDB最新稳定版为:MariaDB 5.5

PS:MariaDB有两个分支,而10.x分支是不兼容MySQL的

MariaDBMySQL兼容性可以查看:

https://mariadb.com/kb/zh-cn/mariadb-vs-mysql-compatibility/

PS:国内比较火的还有阿里的MySQL分支https://github.com/alibaba/AliSQL

不谈其他的,咱们看看它们开发的积极程度就知道为什么MariaDB是主流了
1.积极.png

使用概括(推荐)

如果想要使用MariaDB10.x的同志可以考虑MySQL8.x(社区完善)

如果想要使用MySQL5.x的同志可以考虑MariaDB5.5.x(高性能且兼容)

1.2.MariaDB部署

网络配置如果不会可以看我以前写的文章:https://www.cnblogs.com/dunitian/p/6658578.html

1.环境配置和初始化

安装很简单,以CentOS为例:
1.CentOS.png

systemctl start mariadb.service   # 启动MariaDB
systemctl enable mariadb.service  # 设置开机启动

systemctl stop mariadb.service    # 停止MariaDB
systemctl restart mariadb.service # 重启MariaDB

1.运行.png

PS:Win安装注意这一步:
1.win.png

执行文件简单说明:有时候我们 ps aux | grep mysql 的时候,发现运行的并不是/usr/bin/下的mysqld而是mysqld_safe,那这个mysqld_safe是啥呢?==> 线程安全的实例

MariaDB的程序组成:ls /usr/bin | grep mysql

  1. Client:
    • mysql 命令行客户端
    • mysqldump 数据库备份用
    • mysqladmin 远程管理工具
    • mysqlbinlog 二进制日志管理工具
    • ...
  2. Server:
    • mysqld_safe 线程安全的实例
    • mysqld_multi 多实例
    • mysqld
    • mysql_secure_installation 安全初始化工具(记得先启动数据库哦)
    • ...

mysql的账号由两部分组成:username@host,MySQL客户端连接参数:

  • -u用户名--user,默认为root
  • -h服务器主机--host,默认为localhost
    • host用于限制用户可以通过哪些主机连接
    • 支持通配符:
      • %匹配任意长度的任意字符:172.16.0.0/16 ==> 172.16.%.%
      • _匹配任意单个字符
  • -p密码--password,默认为
    • 安装完成后运行mysql_secure_installation来设置密码并初始化
  • other:
    • -P--port,指定端口
    • -D--database,指定数据库
    • -C--compress,连接数据库的时候对传输的数据压缩
    • -S--socket,指定socket文件
  • MySQL专用:-e "SQL语句",直接执行SQL语句
    • mysql -e "show databases"(脚本直接运行)

很多人安装完成后是这样设置密码的:(不推荐)
1.不推荐.png

正确打开方式:mysql_secure_installation
1.安全初始化1.png

如果允许root远程登录:Disallow root login remotely? [Y/n] n
1.安全初始化2.png

安全初始化后登录图示:
1.安全初始化后登录.png
1.基本信息.png

2.配置文件

MariaDB 5.5.60为例:

  1. Linux:配置文件查找顺序(找不到就往下继续)
    • /etc/my.cnf --> /etc/mysql/conf.d/*.cnf --> ~/.my.cnf
  2. Windows:MariaDB安装目录/data/my.ini

PS:一般配置文件都会设置这3个

[mysqld]
# 独立表空间: 每一个表都有一个.frm表描述文件,还有一个.ibd文件
innodb_file_per_table=on
# 不对连接进行DNS解析(省时)
skip_name_resolve=on
# 配置sql_mode
sql_mode='strict_trans_tables'

# 指定数据库文件存放路径
# datadir=/mysql/data
# socket=/mysql/data/mysql.sock # 与之对应

其他配置MariaDB提供了样本:

[dnt@localhost ~] ls /usr/share/mysql/ | grep .cnf
my-huge.cnf            # 超大内存配置参考
my-innodb-heavy-4G.cnf # 4G内存配置参考
my-large.cnf           # 大内存配置
my-medium.cnf          # 中等内存配置
my-small.cnf           # 小内存配置

PS:thread_concurrency=CPU数*2最佳,修改配置后记得重启数据库

3.远程访问

1.之前安全初始化的时候把root禁止远程登录了,现在我们创建一个其他用户
1.新增用户.png

2.给用户权限
1.给权限.png

3.防火墙放行指定端口
1.防火墙.png

4.远程客户端测试一下
1.成功.png

Code如下:

# root账户登录
mysql -uroot -p

# 新增用户
insert into mysql.user(user,host,password) values("用户名","%",password("密码"));

# 刷新设置
flush privileges;

# 分配权限
grant all privileges on 数据库.* to 用户名@"%" identified by "密码";

# 刷新设置
flush privileges;

# 显示服务状态
systemctl status firewalld

# 添加 --permanent永久生效(没有此参数重启后失效)
firewall-cmd --zone=public --add-port=3306/tcp --permanent

# 重新载入
firewall-cmd --reload

# 查看
firewall-cmd --zone= public --query-port=3306/tcp
# 删除
firewall-cmd --zone= public --remove-port=3306/tcp --permanent

SQLServer远程连接https://www.cnblogs.com/dunitian/p/5474501.html

扩展:为用户添加新数据库的权限

PS:先使用root创建数据库,然后再授权grant all privileges on 数据库.* to 用户名@"%" identified by "密码";并刷新flush privileges;

3.1.为用户添加新数据库权限.png

查看权限:show grants for dnt;
3.2.查看权限.png

效果:
3.3.效果.png

1.3.MySQL部署

之前有园友说,为啥不顺便说说UbuntuServer的部署呢?呃。。。一般来说公司服务器都是CentOS的占大多数,然后UbuntuServer更多的是个人云服务比较多(推荐初创公司使用),毕竟它们两个系统追求的不太一样,一个是追求稳(部署麻烦),一个是追求软件尽量新的情况下稳定(更新太快)

那么长话短说,步入正轨:

1.Ubuntu最常见的包问题

Ubuntu不得不说的就是这个apt出问题的处理 :(换源就不说了/etc/apt/sources.list

# 一般删除这几个锁文件,然后再重新配置下就可以了
sudo rm /var/lib/dpkg/lock
sudo rm /var/lib/dpkg/lock-frontend
sudo rm /var/lib/apt/lists/lock
sudo rm /var/cache/apt/archives/lock
# 简写(千万注意空格,不然你就是rm -rf / + 跑路了)
# sudo rm /var/lib/apt/lists/lock /var/cache/apt/archives/lock /var/lib/dpkg/lock /var/lib/dpkg/lock-frontend

# 重新配置下
sudo dpkg --configure -a

2.安装注意(Ubuntu的特点就是使用起来简单)

Ubuntu推荐使用MySQL(毕竟同是5.x用起来基本上差不多,安装过程和之前说的CentOS 下 MariaDB差不多,所有命令前加个sudo

1.安装比较简单:sudo apt install mysql-server -y
2.1.Ubuntu.png

2.允许远程连接:注释掉 bind-address=127.0.0.1(/etc/mysql/mysql.conf.d/mysqld.cnf)
2.2.远程连接.png

PS:常用配置(/etc/mysql/mysql.conf.d/mysqld.cnf
2.2.1.常用配置.png

3.关于为什么是这个路径的说明:sudo vi /etc/mysql/mysql.conf.d/mysqld.cnf
2.3.为什么是这个路径.png

4.所有配置修改都需要重新启动下:sudo systemctl restart mysql
2.4.记得重启一下

5.第一次初始化和MariaDB不太一样:sudo mysql_secure_installation(其他一路y即可)

需要选下你设置root密码的复杂度:(一般1就可以了,就算设置再复杂,入了系统也是虚的)
2.5.初始化-注意下密码复杂程度

PS:可以看看拓展文章:Ubuntu16安装mysql5.7未提示输入密码,安装后修改mysql默认密码【不推荐】修改mysql密码策略

6.然后输入密码你就可以登录了sudo mysql -uroot -p(PS:你直接sudo mysql也可以直接登录)

这边我就不像上节课一步步演示了,直接授权和创建一步走了grant all privileges on 数据库.* to "用户名"@"%" identified by "复杂密码";
2.6.授权创建一步走.png

7.记得flush privileges;刷新一下系统表
2.7.测试.png

课后拓展:

MySQL5.7.26 忘记Root密码小计:https://www.cnblogs.com/dotnetcrazy/p/11027732.html

浅析MySQL 8忘记密码处理方式
https://www.cnblogs.com/wangjiming/p/10363357.html

MySQL5.6更改datadir数据存储目录
https://www.cnblogs.com/ding2016/p/7644675.html

扩展:CentOS7安装MySQL8

CentOS7安装MySQL8.0安装小计https://mp.weixin.qq.com/s/Su3Ivuy5IMeAwYBXaka0ag


MySQL军规(58)

文章结尾贴一节58MySQL军规:(适用于并发量大,数据量大的典型互联网业务

1.基础规范

  1. 表存储引擎必须使用InnoDB
  2. 表字符集默认使用utf8,必要时候使用utf8mb4
    • utf8通用,无乱码风险,汉字3字节,英文1字节
    • utf8mb4utf8的超集,存储4字节时使用(eg:表情符号)
  3. 禁止使用存储过程,视图,触发器,Event
    • 调试,排错,迁移都比较困难,扩展性较差
    • 对数据库性能影响较大,互联网业务,能让站点层和服务层干的事情,不要交到数据库层
  4. 禁止在数据库中存储大文件(eg:照片)
    • 可以将大文件存储在对象存储系统,数据库中存储路径
  5. 禁止在线上环境做数据库压力测试
    • 测试,开发,线上数据库环境必须隔离

2.命名规范

  1. 库名,表名,列名必须用小写,采用下划线分隔
    • abc,Abc,ABC都是给自己埋坑
  2. 库名,表名,列名必须见名知义,长度不要超过32字符
    • tmp,wushan谁TM知道这些库是干嘛的
  3. 库备份必须以bak为前缀,以日期为后缀
    • 从库必须以-s为后缀
    • 备库必须以-ss为后缀

3.表设计规范

  1. 单实例表个数必须控制在2000个以内
  2. 单表分表个数必须控制在1024个以内
  3. 表必须有主键,推荐使用unsigned整数为主键
    • 潜在坑:删除无主键的表,如果是row模式的主从架构,从库会挂住
  4. 禁止使用外键,如果要保证完整性,应由应用程式实现
    • 外键使得表之间相互耦合,影响update/delete等SQL性能
    • 有可能造成死锁,高并发情况下容易成为数据库瓶颈
  5. 建议将大字段,访问频度低的字段拆分到单独的表中存储,分离冷热数据
    • 垂直拆分的依据,尽量把长度较短,访问频率较高的属性放在主表里
    • 流量大数据量大时,数据访问要有service层,并且service层不要通过join来获取主表和扩展表的属性
    • 具体可以参考沈剑大牛写的《如何实施数据库垂直拆分》

4.列设计规范

  1. 根据业务区分使用tinyint/int/bigint,分别会占用1/4/8字节
  2. 根据业务区分使用char/varchar(PS:没有MSSQL里的nvarchar
    • 字段长度固定,或者长度近似的业务场景,适合使用char能够减少碎片,查询性能高
    • 字段长度相差较大,或者更新较少的业务场景,适合使用varchar,能够减少空间
  3. 根据业务区分使用datetime/timestamp
    • datetime占用5个字节,timestamp占用4个字节
    • 存储年使用year,存储日期使用date,存储时间使用datetime
  4. 必须把字段定义为NOT NULL并设默认值
    • NULL需要更多的存储空间
    • NULL的列使用索引,索引统计,值都更加复杂,MySQL更难优化
    • NULL只能采用IS NULL或者IS NOT NULL,而在=/!=/in/not in时有大坑
  5. 使用int unsigned存储IPv4,不要用char(15)
  6. 使用varchar(20)存储手机号,不要使用整数
    • 手机号不会用来做数学运算
    • varchar可以模糊查询(eg:like ‘138%’)
    • 牵扯到国家代号,可能出现+、-、()等字符,eg:+86
  7. 使用tinyint来代替enum
    • enum增加新值要进行DDL操作

5.索引规范(常用)

  1. 唯一索引使用uniq_字段名来命名(uq_表名_字段名
  2. 非唯一索引使用idx_字段名来命名(ix_表名_字段名
  3. 单张表索引数量建议控制在5个以内
    • 互联网高并发业务,太多索引会影响写性能
    • 异常复杂的查询需求,可以选择ES等更为适合的方式存储
    • 生成执行计划时,如果索引太多,会降低性能,并可能导致MySQL选择不到最优索引
  4. 组合索引字段数不建议超过5个
    • 如果5个字段还不能极大缩小row范围,八成是设计有问题
  5. 不建议在频繁更新的字段上建立索引
  6. 尽量不要join查询,如果要进行join查询,被join的字段必须类型相同,并建立索引
    • join字段类型不一致容易导致全表扫描
  7. 理解组合索引最左前缀原则,避免重复建设索引
    • 如果建立了(a,b,c),相当于建立了(a), (a,b), (a,b,c)

6.SQL规范(常用)

  1. 禁止使用select *,只获取必要字段
    • 指定字段能有效利用索引覆盖
    • select *会增加cpu/io/内存/带宽的消耗
    • 指定字段查询,在表结构变更时,能保证对应用程序无影响
  2. insert必须指定字段,禁止使用insert into T values()
    • 指定字段插入,在表结构变更时,能保证对应用程序无影响
  3. 隐式类型转换会使索引失效,导致全表扫描(很重要)
  4. 禁止在where条件列使用函数或者表达式
    • 导致不能命中索引,全表扫描
  5. 禁止负向查询以及%开头的模糊查询
    • 导致不能命中索引,全表扫描
  6. 禁止大表join子查询
  7. 同一个字段上的or必须改写为inin的值必须少于50个
  8. 应用程序必须捕获SQL异常(方便定位线上问题)

课后思考:为什么select uid from user where phone=13811223344不能命中phone索引?

课后拓展:

MyISAM与InnoDB两者之间区别与选择
https://www.cnblogs.com/y-rong/p/5309392.html
https://www.cnblogs.com/y-rong/p/8110596.html

了解下Mysql的间隙锁及产生的原因
https://www.cnblogs.com/wt645631686/p/8324671.html

grant授权和revoke回收权限
https://www.cnblogs.com/kevingrace/p/5719536.html

centos7自带数据库MariaDB重启和修改密码
https://blog.csdn.net/shachao888/article/details/50341857

MySQL添加用户、删除用户与授权
https://www.cnblogs.com/wanghetao/p/3806888.html

深度认识 Sharding-JDBC:做最轻量级的数据库中间层
https://my.oschina.net/editorial-story/blog/888650
posted @ 2018-12-27 15:08 鲲逸鹏 阅读(...) 评论(...) 编辑 收藏