代码改变世界

Percona XtraBackup 备份还原篇

2018-06-27 23:34  潇湘隐者  阅读(...)  评论(...编辑  收藏

 

Percona XtraBackup 安装介绍篇已经对Percona XtraBackup的功能和安装做了比较详细的介绍,那么本篇我们直接进入主题,如何使用XtraBackup做备份、还原,下面主要介绍XtraBackup备份还原操作的细节和场景,疏漏之处难免存在,如有不足,敬请指出。本篇暂时不做原理介绍,后续篇章"Percona XtraBackup 原理分析篇"再做介绍。

 

 

 

 

XtraBackup完整备份

 

备份的权限

 

    使用XtraBack做备份,需要连接到数据库服务器并在服务器上有相关目录操作权限,所以必须要有数据库的相关操作权限以及相关目录执行READ、WRITE以及EXECUTE(执行innobackupex 或xtrabackup 命令)的系统权限。下面我们来简单介绍一下:

 

    数据库所需的一些权限请参考下面表格,细节部分可以参考官方文档。此处不详细阐述!

   

   

MySQL 数据库权限

 权限描述

RELOAD/ LOCK TABLES

RELOAD权限是管理员级别权限,用来执行flush-hosts, flush-logs, flush-privileges, flush-status, flush-tables,flush-threads, refresh, reload等命令的权限。XtraBackup在复制文件之前,必须先执行

FLUSH TABLES WITH READ LOCK FLUSH ENGINE LOGS

REPLICATION CLIENT

此权限是为了获取二进制日志位置(Position

CREATE TABLESPACE

此权限是为了导入表

PROCESS

此权限是因为要运行SHOW ENGINE INNODB STATUS命令,以及查看服务器上所有运行的线程。

SUPER

此权限是为了开启、关闭复制环境中的slave threads

CREATE

不是必须,Percon Server数据库才需要的。创建PERCONA_SCHEMA.xtrabackup_history的需要

INSERT

不是必须,跟上面权限一样,需要往PERCONA_SCHEMA.xtrabackup_history插入记录

SELECT

不是必须,跟上面权限一样,需要查询ERCONA_SCHEMA.xtrabackup_history中的记录

   

 

当然所需的最小权限如下所示,注意:这个仅仅是最小权限,实际情况中最好根据实际需求授予最小权限。不要放大不必要的权限。

 

 

mysql> use mysql;
Database changed
mysql> CREATE USER 'backuser'@'localhost' IDENTIFIED BY 'kkk123456';
Query OK, 0 rows affected (0.00 sec)
 
mysql> GRANT RELOAD, LOCK TABLES,PROCESS, REPLICATION CLIENT ON *.* TO 'backuser'@'localhost';
Query OK, 0 rows affected (0.00 sec)
 
mysql> FLUSH PRIVILEGES;
Query OK, 0 rows affected (0.00 sec)
 
mysql> 

 

 

如果上面的权限不够的话,可以使用下面授权语句。

 

 

GRANT RELOAD, LOCK TABLES,PROCESS, REPLICATION CLIENT, CREATE TABLESPACE,SUPER ON *.* TO 'backuser'@'localhost';

 

 

系统账号授权相关目录的操作权限。如下所示:

 

 

[root@DB-Server ~]# chown -R mysql:mysql /data
[root@DB-Server ~]# su - mysql
-bash-3.2$ 

 

 

 

完整备份

 

 

 常用的完整备份(全备)命令如下所示

 

innobackupex  --user=backuser --password=kkk123456  /u02/mysql_backup/full/
innobackupex  --user=root --password=123456  /u02/mysql_backup/full/
innobackupex --defaults-file=/usr/my.cnf --user=backuser --password=kkk123456  /u02/mysql_backup/full
innobackupex --defaults-file=/usr/my.cnf --socket=/var/lib/mysql/mysql.sock --user=backuser --password=kkk123456  /u02/mysql_backup/full
参数--no-timestamp 表示不生成带时间戳的目录
innobackupex  --user=backuser --password=kkk123456  /u02/mysql_backup/full/ --no-timestamp

 

 注意:如果你指定了参数--defaults-file,那么此参数就必须位于第一个,否则就会报--defaults-file must be specified first on the command line

 

 

 我们先在测试数据库MyDB创建一个测试表,插入几条数据,后面做还原测试验证使用。

 

mysql> use MyDB;
Database changed
 
mysql> create table test(id  int primary key);
Query OK, 0 rows affected (0.13 sec)
 
mysql> insert into test
    -> values(1000);
Query OK, 1 row affected (0.01 sec)
 
mysql> insert into test
    -> values(2000);
Query OK, 1 row affected (0.01 sec)
 
mysql> insert into test
    -> values(3000);
Query OK, 1 row affected (0.01 sec)
 
mysql> 

 

 我们使用下面命令对MySQL做了一个完整备份,那么默认就会在目录/u02/mysql_backup/full/下生成一个日期时间格式的全备文件2017-07-19_17-22-45

 

   $ innobackupex --defaults-file=/usr/my.cnf --user=backuser --password=kkk123456  /u02/mysql_backup/full

 

 

clip_image001

 

 

 那么备份出来的文件以及内容是什么样的呢? 如下所示,你可以检查xtrabackup_checkpoints、xtrabackup_binlog_info、xtrabackup_info三个文件了解备份的一些详细信息,例如备份类型、是否压缩等等。

 

 

[root@DB-Server 2017-07-19_17-39-56]# ls -lrt
total 12380
drwxr-x--- 2 mysql mysql     4096 Jul 19 17:39 test
drwxr-x--- 2 mysql mysql     4096 Jul 19 17:39 performance_schema
drwxr-x--- 2 mysql mysql     4096 Jul 19 17:39 mysql
drwxr-x--- 2 mysql mysql     4096 Jul 19 17:39 MyDB
-rw-r----- 1 mysql mysql 12582912 Jul 19 17:39 ibdata1
-rw-r----- 1 mysql mysql     2560 Jul 19 17:39 xtrabackup_logfile
-rw-r----- 1 mysql mysql      545 Jul 19 17:39 xtrabackup_info
-rw-r----- 1 mysql mysql      113 Jul 19 17:39 xtrabackup_checkpoints
-rw-r----- 1 mysql mysql       25 Jul 19 17:39 xtrabackup_binlog_info
-rw-r----- 1 mysql mysql      418 Jul 19 17:39 backup-my.cnf
[root@DB-Server 2017-07-19_17-39-56]# more xtrabackup_checkpoints 
backup_type = full-backuped
from_lsn = 0
to_lsn = 1637691
last_lsn = 1637691
compact = 0
recover_binlog_info = 0
[root@DB-Server 2017-07-19_17-39-56]# more xtrabackup_binlog_info 
DB-Server-bin.000001    871
[root@DB-Server 2017-07-19_17-39-56]# more xtrabackup_info 
uuid = cfb5c2d8-6cca-11e7-8113-b083fe5532e5
name = 
tool_name = innobackupex
tool_command = --defaults-file=/usr/my.cnf --user=backuser --password=... /u02/mysql_backup/full
tool_version = 2.4.6
ibbackup_version = 2.4.6
server_version = 5.6.20-enterprise-commercial-advanced-log
start_time = 2017-07-19 17:39:56
end_time = 2017-07-19 17:39:58
lock_time = 0
binlog_pos = filename 'DB-Server-bin.000001', position '871'
innodb_from_lsn = 0
innodb_to_lsn = 1637691
partial = N
incremental = N
format = file
compact = N
compressed = N
encrypted = N

 

clip_image002

 

 

 xtrabackup_checkpoints     : 备份类型信息(完全备份或增量备份)、LSN(日志序列号)范围信息、备份是否压缩

 xtrabackup_binlog_info     : 二进制日志信息,MySQL当前正在使用的二进制日志文件及至备份这一刻为止二进制日志事件的位置。如果没有开启二进制日志,那么就不会有xtrabackup_binlog_info这个文件。

 xtrabackup_info         : xtrabackup工具的版本信息、详细命令、参数以及备份的开始、结束时间。以及备份详细信息等。

 xtrabackup_logfile      :

 backup-my.cnf           : 备份命令用到的配置选项信息。

 

 

如何使用全备恢复还原呢?  如下步骤所示:

 

 

Step 1:Prepare the Backup。

 

 

 

innobackupex  --defaults-file=/usr/my.cnf   --apply-log  /u02/mysql_backup/full/2017-07-19_17-39-56/

 

 

 

Step 2:关闭MySQL服务,备份数据目录或删除数据目录

 

 

 2.1 :  /etc/init.d/mysql stop

 

 2.2 : mv /data/mysql/   /data/mysql_20170719_bak

 

 

Step 3: 恢复数据,将备份数据文件拷贝到数据目录

 

 

 

 innobackupex  --defaults-file=/usr/my.cnf  --copy-back  /u02/mysql_backup/full/2017-07-19_17-39-56/

 

 如果执行上面命令是在mysql用户下,并且有权限创建对应目录,那么就不需要做任何操作,如果是root账号,那么就必须修改对应目录的Owner,否则启动MySQL服务会报错。

 

    chown -R mysql:mysql /data/mysql/*

 

 注意,如果这里权限没有处理好,有时候会出现一些莫名其妙的错误,例如,设置文件权限时,由于上面脚本处理的是/data/mysql下面的文件,没有处理/data/mysql这个目录的权限,启动MySQL的时候就报这个错误

 

[root@DB-Server data]# ls -lrt

total 40

drwxr-xr-x 6 mysql mysql 4096 Jul 21  2017 mysql_20170719_bak

drwxr-x--- 8 root  root  4096 Jun 25 12:09 mysql

[root@DB-Server data]# service mysql start

Starting MySQL.. ERROR! The server quit without updating PID file (/data/mysql/DB-Server.localdomain.pid).

 

[root@DB-Server data]# chown -R mysql:mysql /data/mysql

[root@DB-Server data]# service mysql start

Starting MySQL... SUCCESS!

 

 

 

Step 4: 测试数据的完整性:

 

[root@DB-Server ~]# service mysql start
Starting MySQL.....[  OK  ]
[root@DB-Server ~]# mysql -u root -p
Enter password: 
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.6.20-enterprise-commercial-advanced-log MySQL Enterprise Server - Advanced Edition (Commercial)
 
Copyright (c) 2000, 2014, Oracle and/or its affiliates. All rights reserved.
 
Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
 
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
 
mysql> use MyDB;
Reading table information for completion of table and column names
You can turn off this feature to get a quicker startup with -A
 
Database changed
mysql> select * from test;
+------+
| id   |
+------+
| 1000 |
| 2000 |
| 3000 |
+------+
3 rows in set (0.00 sec)

 

 

XtraBackup增量备份

 

 

 在阐述Xtrabackup增量备份前,我们先来看看下面这个增量备份,你能看出其问题吗?这个备份有啥不妥呢? 当然在做增量备份前,都有对数据库进行了一些测试操作。

 

 

完整备份

 

innobackupex --defaults-file=/usr/my.cnf --user=backuser --password=kkk123456  /u02/mysql_backup/full

 

增量备份1

 

innobackupex --defaults-file=/usr/my.cnf --user=root --password=123456 --incremental  --incremental-basedir=/u02/mysql_backup/full/2017-07-24_09-38-32/  /u02/mysql_backup/incr/

 

增量备份2

 

innobackupex --defaults-file=/usr/my.cnf --user=root --password=123456 --incremental  --incremental-basedir=/u02/mysql_backup/full/2017-07-24_09-32-22/   /u02/mysql_backup/incr/

 

 

其实第一次完整备份时,生成了备份目录2017-07-24_09-38-32; 第一次增量备份时,生成了增量备份目录2017-07-24_09-40-11,关键在于第二次增量备份,--incremental-basedir这个参数的值不应该是第一次完成备份的目录,而应是增量备份1的备份目录2017-07-24_09-40-11,如下所示,如果使用了错误的参数,增量备份2其实包含了增量备份1的变化部分。

 

 

[root@DB-Server 2017-07-24_09-40-11]# more xtrabackup_info 
uuid = 9f916d24-7075-11e7-8f2e-b083fe5532e5
name = 
tool_name = innobackupex
tool_command = --defaults-file=/usr/my.cnf --user=root --password=... --incremental --incremental-basedir=/u02/mysql_backup/full/2017-07-24_09-38-32/ /u02/mysql_backup/incr/
tool_version = 2.4.6
ibbackup_version = 2.4.6
server_version = 5.6.20-enterprise-commercial-advanced
start_time = 2017-07-24 09:40:12
end_time = 2017-07-24 09:40:14
lock_time = 0
binlog_pos = 
innodb_from_lsn = 1650510
innodb_to_lsn = 1660277
partial = N
incremental = Y
format = file
compact = N
compressed = N
encrypted = N
[root@DB-Server 2017-07-24_09-40-11]# cd ../2017-07-24_09-40-25/
[root@DB-Server 2017-07-24_09-40-25]# more xtrabackup_info 
uuid = a790b642-7075-11e7-8f2e-b083fe5532e5
name = 
tool_name = innobackupex
tool_command = --defaults-file=/usr/my.cnf --user=root --password=... --incremental --incremental-basedir=/u02/mysql_backup/full/2017-07-24_09-38-32/ /u02/mysql_backup/incr/
tool_version = 2.4.6
ibbackup_version = 2.4.6
server_version = 5.6.20-enterprise-commercial-advanced
start_time = 2017-07-24 09:40:25
end_time = 2017-07-24 09:40:28
lock_time = 0
binlog_pos = 
innodb_from_lsn = 1650510
innodb_to_lsn = 1664130
partial = N
incremental = Y
format = file
compact = N
compressed = N
encrypted = N
[root@DB-Server 2017-07-24_09-40-25]# 

 

增量备份注意事项

 

1:--incremental-basedir   

 

    第一次增量备份,--incremental-basedir肯定是全备目录,第二次增量备份,--incremental-basedir为第一次增量备份目录,依此类推!

 

2:增量备份仅能应用于InnoDB或XtraDB表,对于MyISAM表而言,执行增量备份时其实进行的是完全备份。

 

 

3:应用增量备份的时候只能按照备份的顺序来应用。如果应用顺序错误,那么备份就不可用。如果无法确定顺序,可以查看xtrabackup-checkpoints来确定顺序。

 

 

那么我们来用案例测试一下增量备份的还原,具体步骤如下所示(这里我们使用root账号来)

 

 

Step 1: 完整备份

 

mysql> use MyDB;
Reading table information for completion of table and column names
You can turn off this feature to get a quicker startup with -A
 
Database changed
mysql> create table test (id int, name varchar(12));
Query OK, 0 rows affected (0.01 sec)
 
mysql> insert into test values(1000, 'kerry');
Query OK, 1 row affected (0.00 sec)
 
mysql> 

 

执行完整备份

 

innobackupex --default-files=/usr/my.cnf   --user=root --password=123456  /u02/mysql_backup/full/

 

 

clip_image003

 

 

Step 2: 增量备份1

 

mysql> insert into test values(2000, 'ken');

Query OK, 1 row affected (0.00 sec)

 

注意 --incremental-basedir参数应该根据实际情况确定

 

innobackupex  --defaults-file=/usr/my.cnf  --user=root --password=123456  --incremental --incremental-basedir=/u02/mysql_backup/full/2017-07-24_16-15-59/ /u02/mysql_backup/incr/

 

clip_image004

 

Step 3:增量备份2:

 

 

mysql> create table big_table (id  int);
Query OK, 0 rows affected (0.13 sec)
 
mysql> insert into big_table values(10000);
Query OK, 1 row affected (0.00 sec)
 
mysql> insert into big_table values(20000);
Query OK, 1 row affected (0.00 sec)
 
mysql> 

 

注意 --incremental-basedir参数应该根据实际情况确定

 

innobackupex  --defaults-file=/usr/my.cnf  --user=root --password=123456  --incremental --incremental-basedir=/u02/mysql_backup/incr/2017-07-24_16-17-39/ /u02/mysql_backup/incr/

 

 

clip_image005

 

 

注意:Xtrabackup增量备份时,需要设置参数--incremental-basedir 其实这个参数不是必须的。可以用--incremental-lsn来替代。

 

 

完整备份后,检查备份目录下的xtrabackup_checkpoints文件,找到to_lsn,然后使用下面脚本做增量备份。

 

innobackupex  --user=backuser --password=kkk123456  /u02/mysql_backup/full/

 

[root@DB-Server 2017-07-25_12-49-57]# more xtrabackup_checkpoints

backup_type = full-backuped

from_lsn = 0

to_lsn = 1733142

last_lsn = 1733142

compact = 0

recover_binlog_info = 0

 

innobackupex --user=backuser  --password=kkk123456  --incremental --incremental-lsn=1733142 /u02/mysql_backup/incr/

 

 

然后,我们先删除或DROP掉一些数据,模拟数据被误删的情况,然后还原测试验证。 如下所示:

 

 

mysql> drop table test;
Query OK, 0 rows affected (0.00 sec)
 
mysql> delete from big_table where id=10000;
Query OK, 1 row affected (0.01 sec)
 
mysql> 

 

 

Step 1: 恢复完全备份

 

innobackupex --defaults-file=/usr/my.cnf  --apply-log --redo-only /u02/mysql_backup/full/2017-07-24_16-15-59/

 

clip_image006

 

注意如果后续必须应用增量备份,则必须加上--redo-only. 否则后续不能应用增量备份。这个如果对SQL Server备份还原熟悉的话,原理也是如此。

 

--redo-only

 

If you replay the committed transactions and rollback the uncommitted ones on the base backup, you will not be able

to add the incremental ones. If you do this on an incremental one, you won’t be able to add data from that moment

and the remaining increments

 

Note: --redo-only should be used when merging all incrementals except the last one. That’s why the previous

line doesn’t contain the --redo-only option. Even if the --redo-only was used on the last step, backup would

still be consistent but in that case server would perform the rollback phase.

 

如下截图所示,如果在恢复全备时没有应用参数--redo-only ,后面应用增量备份时就会遇到下面错误。只有当最后一个增量备份时,才不需要--redo-only

 

clip_image007

 

 

 

Step 2:增量备份还原

 

 innobackupex --apply-log --redo-only --incremental /u02/mysql_backup/full/2017-07-24_16-15-59/ \

              --incremental-dir=/u02/mysql_backup/incr/2017-07-24_16-17-39/

 

clip_image008

 

 

注意:增量备份必须按一定顺序Apply,否则后面的增量备份都无效了!

 

 

Step 3:增量备份还原

 

innobackupex --apply-log  --incremental /u02/mysql_backup/full/2017-07-24_16-15-59/ \

          --incremental-dir=/u02/mysql_backup/incr/2017-07-24_16-18-57/

 

 

clip_image009

 

 

 

 

 

Step 4: 关闭MySQL服务并移除数据目录。

 

 

[root@DB-Server ~]# service mysql stop

Shutting down MySQL..[  OK  ]

 

 

 

 

Step 5: 将备份文件拷贝回MySQL数据目录。

 

 

innobackupex  --defaults-file=/usr/my.cnf  --copy-back /u02/mysql_backup/full/2017-07-24_16-15-59/

 

[root@DB-Server ~]# chown -R mysql:mysql /data/mysql/*

 

 

Step 6: 检查验证数据数据恢复情况。

 

 

[root@DB-Server mysql]# service mysql start
Starting MySQL..........[  OK  ]
 
 
 
mysql> select * from test;
+------+-------+
| id   | name  |
+------+-------+
| 1000 | kerry |
| 2000 | ken   |
+------+-------+
2 rows in set (0.00 sec)
 
mysql> select * from big_table;
+-------+
| id    |
+-------+
| 10000 |
| 20000 |
+-------+
2 rows in set (0.00 sec)
 

 

 

 

XtraBackup备份高级选项

 

 

Compact Backups

 

 

 

1:紧凑型备份(compact backups)指在备份InnoDB tables时, 可以不备份二级索引(Secondary index)数据页,这样使得备份更加紧凑,从而可以减少备份的大小。缺点是备份准备过程(Prepare)需要更长的时间才能重建这些二级索引(secondary indexes)。

 

 

2:系统表空间不支持紧凑型备份(Compact backups),所以如果要使用Compact backups,那么就必须设置变量innodb_file_per_table为ON

 

innobackupex --user=backuser  --password=kkk123456  --compact  /u02/mysql_backup/full/

 

如下所示,你检查xtrabackup_checkpoints 就会发现compact为1, xtrabackup_info里面compact值为Y

 

clip_image010

 

 

注意:

发现Xtrabackup有个有意思的现象,例如下面备份脚本,参数 --compat弄错了,执行也不报错,只是紧凑型备份没有生效。

 

 

 

 

Partial Backups

 

Percona Xtrabackup提供部分备份,这意味着你可以只备份一些特定表或数据库,不过部分备份(Partial Backups)是有诸多限制和前提的。

 

1: 如果要使用部分备份(Partial Backups),前提条件是你备份的表必须在单独的表空间中。你必须在服务器上启动innodb_file_per_table。

 

2: 部分备份(Partial Backups)是不支持--stream选项,即不支持将数据通过管道传输给其它程序进行处理。

 

3: 还原部分备份跟还原完整备份也有所不同,即你不能通过简单地将prepared的部分备份使用--copy-back选项直接复制回数据目录,而是要通过导入表的方向来实现还原。尽管有时简单的拷贝备份文件可以成功,但是这种方法很容易导致数据库的不一致,因此不推荐大家这么做。

 

 

 

创建部分备份(Creating Partial Backups

 

 

部分备份共有三种方式,分别是:1. 用正则表达式表示要备份的库名及表名(参数为--include);2. 将要备份的表名或库名都写在一个文本文件中(参数为--tables-file)以及 3. 将要备份表名或库名完整的写在命令行中(参数为:--databases)。(译者注:不管你备份哪个库或是哪张表,强烈推荐把mysql库也一起备份,恢复的时候要用。)

 

对数据库进行部分备份有三种方式:正则表达式(--include), 枚举表文件(--tables-file)和列出要备份的数据库(--databases)

 

方法1:使用正则表达式

 

innobackupex --defaults-file=/usr/my.cnf  --user=backuser  --password=kkk123456  --include='^MyDB[.]kkk'   /u02/mysql_backup/part/

 

clip_image011

 

 

方法2:枚举表文件(--tables-file)

 

# cat >back_table.txt

MyDB.test

MyDB.kkk

 

innobackupex --defaults-file=/usr/my.cnf  --user=backuser  --password=kkk123456   --tables-file=/u02/mysql_backup/back_table.txt  /u02/mysql_backup/part

 

 

 

方法3: 通过参数--database 指定需要备份的表

 

database选项可以直接指定需要备份的名,或指定一个包含所需备份表名的列表文件。

 

innobackupex --defaults-file=/usr/my.cnf  --user=backuser  --password=kkk123456   --databases="MyDB.test MyDB.kkk"  /u02/mysql_backup/part

 

 

准备部分备份(Preparing Partial Backups

 

 

innobackupex  --apply-log --export /u02/mysql_backup/part/2018-06-27_16-49-59

 

clip_image012

 

 

 

恢复部分备份(Restoring Partial Backups

 

innobackupex  --apply-log --export /u02/mysql_backup/part/2018-06-27_16-49-59

 

此时就会生成对应表的exp文件

 

clip_image013

 

导入表操作:

 

假设由于误操作,将表TEST的数据TRUNCATE掉了。

 

mysql> select * from test;
+------+-------+
| id   | name  |
+------+-------+
| 1000 | kerry |
| 2000 | ken   |
+------+-------+
2 rows in set (0.00 sec)
 
mysql> truncate table test;
Query OK, 0 rows affected (0.12 sec)
 
mysql> 

 

2:我们discard tablespace

 

mysql> alter table test discard tablespace;
 
Query OK, 0 rows affected (0.03 sec)

 

3: copy test表的ibd、cfg、exp文件

 

# cp  /u02/mysql_backup/part/2018-06-27_16-49-59/MyDB/test.ibd  /data/mysql/MyDB
# cp  /u02/mysql_backup/part/2018-06-27_16-49-59/MyDB/test.cfg  /data/mysql/MyDB
# cp  /u02/mysql_backup/part/2018-06-27_16-49-59/MyDB/test.exp  /data/mysql/MyDB

 

4: 导入表空间

 

mysql> alter table test import tablespace;
Query OK, 0 rows affected (0.03 sec)

 

5:验证测试是否成功

 

 

clip_image014

 

 

 

基于tar格式备份

 

流备份打包
 
innobackupex --user=backuser --password=kkk123456   --stream=tar /tmp  > /u02/mysql_backup/full/backup_20170725.tar
 
xbstream流备份打包压缩
 
innobackupex --user=root  --password=123456  --stream=tar /tmp  | gzip >  /u02/mysql_backup/full/backup_20170725.tar.gz
 
备份到远程

 

 

  中间还有很长一段内容,被我删除了,文章写得太长、太冗余,有点类似于技术手册了,估计也没有人看;另外一方面,很多细节问题还没有仔细验证过, 所以放在自己的笔记本中,慢慢完善!

 

 

Innobackupex部分参数介绍

 

 

查看innobackupex与xtrabackup的参数,可以使用下面命令:

 

#innobackupex --help

#xtrabackup

 

innobackupex的的部分参数介绍如下(有些不常用参数没来及整理,后续再慢慢补充)

 

 

 

 
  -v, --version          
 
    输出xtrabackup的版本信息
 
 
  -?, --help          
 
    
    输出、显示帮助信息然后退出
 
 
--defaults-file
 
    默认配置文件的路径,如果不指定该参数,xtrabackup将从依次从以下位置查找配置文件/etc/my.cnf、/etc/mysql/my.cnf、/usr/local/etc/my.cnf、~/.my.cnf,并读取配置文件中的[mysqld]和[xtrabackup]配置段。[mysqld]中只需要指定datadir、innodb_data_home_dir、innodb_data_file_path、innodb_log_group_home_dir、innodb_log_files_in_group、innodb_log_file_size6个参数即可让xtrabackup正常工作。
 
    注意:指定要备份的mysql实例的my.cnf文件,必须为第一个选项
 
  --apply-log         
 
 
    该参数是对xtrabackup的参数--prepare的封装。 一般情况下,在备份完成后,数据尚且不能用于恢复操作,因为备份的数据中可能会包含尚未提交的事务或已经提交但尚未同步至数据文件中的事务。因此,此时数据文件仍处理不一致状态。--apply-log的作用是通过回滚未提交的事务及同步已经提交的事务至数据文件使数据文件处于一致性状态。
 
 
 
  --redo-only
 
    这个选项在prepare base full backup,往其中merge增量备份(但不包括最后一个)时候使用。This forces xtrabackup to skip the "rollback" phase and do a "redo" only
 
 
  --copy-back
 
    做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir目录;
 
  --move-back  
 
    将所有文件从以前创建的备份目录移动到事情数据目录, 使用此选项必须小心, 因为它会删除备份文件。
 
  --galera-info  
    
    该选项创建xtrabackup_galera_info文件, 其中包含备份当时的本地节点状态。 执行Percona-XtraDB-Cluster备份时应使用此选项。 
 
  --slave-info  
 
    该选项表示对slave进行备份的时候使用,打印出master的名字和binlog pos,同样将这些信息以change master的命令写入xtrabackup_slave_info文件。可以通过基于这份备份启动一个从库。
 
    
 
  --incremental 
 
    建立增量备份
 
  --no-lock
 
    该选项表示关闭FTWRL的表锁,只有在所有表都是Innodb表并且不关心backup的binlog pos点,如果有任何DDL语句正在执行或者非InnoDB正在更新时(包括mysql库下的表),都不应该使用这个选项,后果是导致备份数据不一致,如果考虑备份因为获得锁失败,可以考虑--safe-slave-backup立刻停止复制线程。 
 
    不允许使用flush tables with read lock表锁。如果你的所有表示INNODB并且你不关心二进制日志备份的位置。如果有任何DDL语句被执行或任何非INNODB表上的update操作,这个选项就不能使用
 
 
  --safe-slave-backup 
 
    停止从SQL进程并等待启动备份直到slave_open_temp_tables的值为0。如果没有打开临时表,备份会进行,否则SQL进程将启动并直到没有打开的临时表时停止。如果slave_open_temp_tables在--
safe-slave-backup-timeout秒后没有变成0,则备份会失败。备份结束后,从SQL进程将重新启动。
 
 
  --rsync
 
表示通过rsync工具优化本地传输,当指定这个选项,innobackupex使用rsync拷贝非Innodb文件而替换cp,当有很多DB和表的时候会快很多,不能--stream一起使用。
 
 
 
  --force-non-empty-directories 
 
 使用此选项,就可以通过--copy-back或--move-back 将文件拷贝或移动到非空目录。
    
 
                 This option, when specified, makes --copy-back or
                      --move-back transfer files to non-empty directories. Note
                      that no existing files will be overwritten. If
                      --copy-back or --nove-back has to copy a file from the
                      backup directory which already exists in the destination
                      directory, it will still fail with an error.
 
 
 
  --no-timestamp
 
该选项可以表示要不要创建一个时间戳目录来存储备份,指定到自己想要的备份文件夹。指定了这个选项,备份会直接备份在BACKUP-DIR,不再创建时间戳文件夹
 
  --no-version-check
 
禁止版本检查
  
  --no-backup-locks
 
 
  --decompress
 
  
  -u, --user=name 
 
 
该选项表示备份账号。
 
 
 
  -H, --host=
 
 
该选项表示备份数据库的地址。
 
 
 
  -p, --password
 
 
该选项表示备份账号的密码。
 
 
 
  -P, --port=#
 
 
该选项表示当前需要备份数据库的使用的端口。
 
 
 
 
 
  -S, --socket
 
 
此选项指定连接本地数据库时使用的套接字,此选项接受一个字符串参数。
 
 
  --incremental-history-name=name 
 
 
该选项表示存储在PERCONA_SCHEMA.xtrabackup_history基于增量备份的历史记录的名字。Percona Xtrabackup搜索历史表查找最近(innodb_to_lsn)成功备份并且将to_lsn值作为增量备份启动出事lsn.与innobackupex--incremental-history-uuid互斥。如果没有检测到有效的lsn,xtrabackup会返回error。
 
 
 
  --incremental-history-uuid=name 
 
  --decrypt=name 
 
  
  --ftwrl-wait-query-type=name
 
  --kill-long-query-type=name 
 
  --history[=name] 
 
  --include=name
 
  
  --databases
 
该选项表示需要备份的数据库,如果没有指定该参数,表示备份全部数据库。如果要指定多个数据库,彼此间需要以空格隔开;如:"mydb1 mydb2",同时,在指定某数据库时,也可以只指定其中的某张表。如:"mydatabase.mytable"。该选项对innodb引擎表无效,还是会备份所有innodb表。此外,此选项也可以接受一个文件为参数,文件中每一行为一个要备份的对象。
 
  --kill-long-queries-timeout=#
 
  --ftwrl-wait-timeout=# 
 
  --ftwrl-wait-threshold=# 
 
  --debug-sleep-before-unlock=#
 
  --safe-slave-backup-timeout=# 
 
  --close-files  
 
  --compact
 
    
该选项表示创建一份没有辅助索引的紧凑的备份。
指在备份InnoDB tables时, 可以不备份二级索引(Secondary index)数据页,这样使得备份更加紧凑,从而可以减少备份的大小。缺点是备份准备过程(Prepare)需要更长的时间才能重建这些二级索引(secondary indexes)。
 
  --compress[=name]
 
 
对备份数据进行行压缩
 
 
  --compress-threads=# 
 
 
指定备份压缩的线程数量。
 
 
  --compress-chunk-size=#
 
  --encrypt=name 
 
  --encrypt-key=name 
 
  --encrypt-key-file=name 
 
  --encrypt-threads=#
 
 
  --encrypt-chunk-size=# 
 
  --export 
 
 
  --extra-lsndir=name
 
 
 
  --incremental-basedir=name 
 
 
    指定一个全库备份的目录作为增量备份的基础数据库 。
与--incremental同时使用。
 
 
  --incremental-dir=name
 
    该选项表示增量备份的目录。
 
 
  --incremental-force-scan 
 
    
    该选项表示创建一份增量备份时,强制扫描所有增量备份中的数据页。
 
 
  --log-copy-interval=# 
 
  --incremental-lsn=name 
 
    该选项表示指定增量备份的LSN,与--incremental选项一起使用。
 
 
  --parallel
 
  --rebuild-indexes 
  
  --rebuild-threads=
 
  --stream
 
    该选项表示流式备份的格式,backup完成之后以指定格式到STDOUT,目前只支持tar和xbstream。
 
 
    备份文件输出格式, tar时使用tar4ibd , 该文件可在XtarBackup binary文件中获得.如果备份时有指定--stream=tar, 则tar4ibd文件所处目录一定要在$PATH中(因为使用的是tar4ibd去压缩, 在XtraBackup的binary包中可获得该文件)。
 
    在使用参数stream=tar备份的时候,你的xtrabackup_logfile可能会临时放在/tmp目录下,如果你备份的时候并发写入较大的话xtrabackup_logfile可能会很大(5G+),很可能会撑满你的/tmp目录,可以通过参数--tmpdir指定目录来解决这个问题。
 
    
 
  --tables-file
 
 
    该选项表示指定含有表列表的文件,格式为database.table,该选项直接传给--tables-file。
 
  --throttle
 
    
    每秒IO次数,限制backup时使用的I/O操作量,使备份对数据库正常业务的影响最小化
 
 
  -t, --tmpdir=name 
 
  --use-memory
 
    指定备份所用内存大小。

 

 

 

 

XtraBackup问题集合

 

 

1:没有开启二进制日志,那么Xtrabackup有什么问题没?

 

 

2:xtrabackup:  Check 'to_lsn' of the target and 'from_lsn' of the incremental.

 

 

[root@DB-Server ~]# innobackupex --apply-log  --incremental /u02/mysql_backup/full/2017-07-24_12-58-25/  --incremental-dir=/u02/mysql_backup/incr/2017-07-24_13-02-32/
170724 13:27:34 innobackupex: Starting the apply-log operation
 
IMPORTANT: Please check that the apply-log run completes successfully.
           At the end of a successful apply-log run innobackupex
           prints "completed OK!".
 
innobackupex version 2.4.6 based on MySQL server 5.7.13 Linux (x86_64) (revision id: 8ec05b7)
incremental backup from 1685892 is enabled.
xtrabackup: cd to /u02/mysql_backup/full/2017-07-24_12-58-25/
xtrabackup: This target seems to be already prepared with --apply-log-only.
xtrabackup: error: This incremental backup seems not to be proper for the target.
xtrabackup:  Check 'to_lsn' of the target and 'from_lsn' of the incremental.

 

 

 

 

注意红色部分,由于粗心,路径错误,导致出现下面错误信息:

 

[root@DB-Server full]# innobackupex --defaults-file=/usr/my.cnf --user=root  --password=123456 \

       --stream=tar /tmp  | gzip >  u02/mysql_backup/full/backup_20170725.tar.gz

-bash: u02/mysql_backup/full/backup_20170725.tar.gz: No such file or directory

170725 16:57:35 innobackupex: Starting the backup operation

 

IMPORTANT: Please check that the backup run completes successfully.

           At the end of a successful backup run innobackupex

           prints "completed OK!".

 

170725 16:57:35  version_check Connecting to MySQL server with DSN 'dbi:mysql:;mysql_read_default_group=xtrabackup' as 'root'  (using password: YES).

170725 16:57:35  version_check Connected to MySQL server

170725 16:57:35  version_check Executing a version check against the server...

170725 16:57:35  version_check Done.

170725 16:57:35 Connecting to MySQL server host: localhost, user: root, password: set, port: not set, socket: not set

Using server version 5.6.20-enterprise-commercial-advanced-log

innobackupex version 2.4.6 based on MySQL server 5.7.13 Linux (x86_64) (revision id: 8ec05b7)

xtrabackup: uses posix_fadvise().

xtrabackup: cd to /data/mysql

xtrabackup: open files limit requested 0, set to 1024

xtrabackup: using the following InnoDB configuration:

xtrabackup:   innodb_data_home_dir = .

xtrabackup:   innodb_data_file_path = ibdata1:12M:autoextend

xtrabackup:   innodb_log_group_home_dir = ./

xtrabackup:   innodb_log_files_in_group = 2

xtrabackup:   innodb_log_file_size = 50331648

InnoDB: Number of pools: 1

170725 16:57:35 >> log scanned up to (1737354)

xtrabackup: Generating a list of tablespaces

InnoDB: Allocated tablespace ID 4 for mysql/slave_master_info, old maximum was 0

innobackupex: Error writing file 'UNOPENED' (Errcode: 32 - Broken pipe)

archive_write_header() failed.

[01] xtrabackup: error: cannot open the destination stream for ibdata1

[01] xtrabackup: Error: xtrabackup_copy_datafile() failed.

[01] xtrabackup: Error: failed to copy datafile.

 

 

The datadir must be empty before restoring the backup. Also it’s important to note that MySQL server needs

to be shut down before restore is performed. You can’t restore to a datadir of a running mysqld instance (except when

importing a partial backup).

 

 

3:版本不支持的情况,例如 Percona-XtraBackup-2.3.4 不支持MySQL 5.7.21

 

 

# innobackupex  --default-file=/usr/my.cnf --user=root --password="QwEr@123456" --app-log /tmp/fullbackup/
180613 16:36:39 innobackupex: Starting the backup operation
 
IMPORTANT: Please check that the backup run completes successfully.
           At the end of a successful backup run innobackupex
           prints "completed OK!".
 
180613 16:36:39  version_check Connecting to MySQL server with DSN 'dbi:mysql:;mysql_read_default_group=xtrabackup;mysql_socket=/var/lib/mysql/mysql.sock' as 'root'  (using password: YES).
180613 16:36:39  version_check Connected to MySQL server
180613 16:36:39  version_check Executing a version check against the server...
180613 16:36:39  version_check Done.
180613 16:36:39 Connecting to MySQL server host: localhost, user: root, password: set, port: 0, socket: /var/lib/mysql/mysql.sock
Error: Unsupported server version: '5.7.21'. Please report a bug at https://bugs.launchpad.net/percona-xtrabackup

 

clip_image015

 

 

 

 

 

后续感言:一直想全面总结XtraBackup备份,就一直在拖拖拉拉,本来20177月份就总结了这篇文章的大部分知识点,但是总是感觉这部分的知识点没有总结,那部分知识点没有测试,一直拖拖拉拉,其实哪里可能面面俱到的总结到位,能够涵盖大部分就可以。不完美才是技术文章的哲学形态!后续遇到了相关案例,再慢慢完善。