GreenPlum备份恢复工具之gpbackup和gprestore
GreenPlum备份恢复工具之gpbackup和gprestore
简介及总结
有关gpbackup和gprestore有如下总结点，其它请参考：
https://www.xmmup.com/greenplumshujukudebeifenhehuifu.html
1、gpbackup和gprestore是一个逻辑备份工具
2、gpbackup和gprestore是可以并行备份的工具
3、gpbackup和gprestore支持增量备份和压缩备份等功能，增量备份只对AO表起作用
4、gpbackup和gprestore是GreenPlum官方提供的备份恢复工具
5、默认情况下，gpbackup仅在Greenplum数据库master数据目录中存储备份的对象元数据文件和DDL文件。 Greenplum数据库节点使用COPY … ON SEGMENT命令将备份表的数据存储在位于每个节点的backups目录中的压缩CSV数据文件中。
6、需要额外进行安装，默认安装包不带该工具
7、工具是基于Golang写的
8、gpbackup 的必选参数只有 --dbname，每次只能备份一个数据库，其他参数均为可选参数，有些参数之间是存在互斥关系的，建议命令：
-- 备份
gpssh -f ~/conf/all_hosts -v -e 'mkdir -p /home/gpadmin/bk/'
gpbackup --dbname=db1 --backup-dir=/home/gpadmin/bk/ --jobs=8
-- 备份单个schema
gpbackup --dbname db1 --include-schema='public' --jobs=10
-- 每个segment主实例单个备份文件（例如，某个sdw1上有4个p实例，则备份会生成4个压缩文件）
gpbackup --dbname=db1 --backup-dir=/home/gpadmin/bk/ --single-data-file
-- 备份日志
find /data2/bk/gpseg-1/backups/ -name gpbackup_*_report
-- 恢复
gprestore --backup-dir=/home/gpadmin/bk/ --timestamp=20230724123806 --jobs 8 --create-db --redirect-db db1
9、一般备份要比恢复快很多。
10、gpbackup在每个独立的表级别使用ACCESS SHARE锁，而不是在pg_class catalog表里加EXCLUSIVE锁。 这使得你可以在backup期间执行任意查询和DML语句，但是如CREATE，ALTER，DROP和TRUNCATE操作，只要这些操作没有执行在备份的数据上就可以。
11、若不指定备份路径--backup-dir参数，则备份文件会保存在 $MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/ 路径下
12、官方文档：
https://docs.vmware.com/en/VMware-Greenplum-Backup-and-Restore/1.29/greenplum-backup-and-restore/backup-restore.html
安装gpbackup和gprestore
安装参考：https://docs.vmware.com/en/VMware-Tanzu-Greenplum-Backup-and-Restore/1.27/tanzu-greenplum-backup-and-restore/GUID-backup-restore-install.html
下载
下载地址（最新版1.29.2）： https://github.com/greenplum-db/gpbackup https://network.pivotal.io/products/pivotal-gpdb-backup-restore
安装
需要安装在所有的master、standby master和所有segment主机上：
使用gpadmin用户执行：
-- 拷贝
gpscp -v -f ~/conf/all_hosts pivotal_greenplum_backup_restore-1.29.2.tar.gz =:/soft/
-- 安装(版本不一样，安装位置可能不一样，考虑是否添加bin目录)
gpssh -f ~/conf/all_hosts -v -e 'tar -xzvf /soft/pivotal_greenplum_backup_restore-1.29.2.tar.gz -C $GPHOME/bin/'
-- 测试
gpssh -f ~/conf/all_hosts -v -e 'gpbackup --version'
示例
[gpadmin@mdw1 soft]$ cat ~/conf/all_hosts
mdw1
mdw2
sdw1
sdw2
sdw3
sdw4
##上传软件到所有主机节点
gpscp -v -f ~/conf/all_hosts pivotal_greenplum_backup_restore-1.29.2.tar.gz =:/soft/
##解压软件
gpssh -f ~/conf/all_hosts -v -e 'tar -xzvf /soft/pivotal_greenplum_backup_restore-1.29.2.tar.gz -C $GPHOME' Using delaybeforesend 0.05 and prompt_validation_timeout 1.0
gpbackup帮助命令
[chris@gpt1 ~]$ gpbackup --help
gpbackup is the parallel backup utility for Greenplum
Usage: gpbackup [flags]
Flags:
--backup-dir string `可选参数`, 写入备份文件的绝对路径，不能采用相对路径，如果您指定了该路径，备份操作会将所有备份文件（包括元数据文件）都放到这个目录下。如果您不指定这个选项，元数据文件会保存到Master节点的 `$MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/` 目录下，数据文件会存放在segment主机的 `/backups/YYYYMMDD/ YYYYMMDDhhmmss/`目录下。该选项不能与 `--plugin-config` 选项共同使用。
--compression-level int `可选参数`, 压缩级别。大家需要注意，在当前随GPDB版本发布的gpbackup包中，只支持gzip压缩格式，如果您自行编译gpbackup，可以看到已经增加了 `compression-type` 类型，该类型支持其他的压缩类型。压缩级别的默认值为1，gpbackup在备份时，会默认启用gzip压缩。
--compression-type string `可选参数`, 压缩类型。有效值有 'gzip','zstd'，默认为 'gzip'，如果要使用 'zstd' 压缩，需要在所有服务器上安装该压缩类型以保证shell可以执行 `zstd` 命令，安装方式参考：https://github.com/facebook/zstd 。
--copy-queue-size int `可选参数`, 自行编译最新版本gpbackup带有的参数，该参数只能配合 `--single-data-file` 参数一起使用，当定义了 `--single-data-file` 参数以后，通过执行 `--copy-queue-size` 参数的值来指定gpbackup命令使用COPY命令的个数，默认值为1。
--data-only `可选参数`, 只备份数据，不备份元数据。
--dbname string `必选参数`, 只要进行备份的数据库名称，必须指定，否则会报错，备份无法进行。
--debug `可选参数`, 显示备份过程中详细的debug信息，通常用在排错场景。
--exclude-schema stringArray `可选参数`, 指定备份操作要排除的数据库模式(schema)， 如果要排除多个模式，需要多次定义，不支持 `--exclude-schema=schema1,schema2` 的方式。另外该参数与 '--exclude-schema-file, exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。
--exclude-schema-file string `可选参数`, 包含备份操作要排除的数据库模式的文件，每一行为一个模式名，该文件不能包含多余的符号，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。该参数与 '--exclude-schema, --exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。
--exclude-table stringArray `可选参数`, 指定备份操作中要排除的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table-file, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。另外该参数也支持多次指定。
--exclude-table-file string `可选参数`, 指定文件包含备份操作中要排除的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。如果有多个表，需要在文件中分行多次指定。
--from-timestamp string `可选参数`, 指定增量备份的时间戳。被指定的备份必须有增量备份集，如果没有，备份操作会自动创建一个增量备份集；如果被指定的备份是一个增量备份，则备份操作会向备份集增加一个备份。使用该参数时，必须指定参数 `--leaf-partition-data`, 并且不能与`--data-only或--metadata-only`参数一起使用。如果没有任何全量备份存在，则会报错退出备份过程。
--help 显示命令行参数帮助信息。
--include-schema stringArray `可选参数`, 指定备份操作要包含的数据库模式(schema)， 如果要包含多个模式，需要多次定义，不支持 `--include-schema=schema1,schema2` 的方式。另外该参数与 '--exclude-schema, --exclude-schema-file, exclude-table, --exclude-table-file, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。
--include-schema-file string `可选参数`, 包含备份操作要包含的数据库模式的文件，每一行为一个模式名，该文件不能包含多余的符号，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --exclude-table-file, --include-schema, --include-table, --include-table-file' 这几个参数不能同时使用。
--include-table stringArray `可选参数`, 指定备份操作中要包含的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table-file' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。另外该参数也支持多次指定。
--include-table-file string `可选参数`, 指定文件包含备份操作中要包含的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。如果有多个表，需要在文件中分行多次指定。
--incremental `可选参数`, 增量备份功能，增量备份只支持AO表的增量，Heap表不支持增量备份。指定该选项后，会在备份集合中继续增加增量备份。在GPDB里面，备份可以全部都由全量备份构成，也可以由全量备份+增量备份的方式构成，增量备份必须与前面的全量备份组成一个连续的集合，否则无法进行恢复。如果已经做了一个全量备份但是没有增量备份，那该参数会在备份时创建一个增量备份集；如果全量和增量都已经存在了，那么该参数会在现有增量备份集中增加一个最新的备份；另外也可以通过指定 '--from-timestamp' 参数来改变默认行为。
--jobs int `可选参数`, 指定进行表备份过程中的并行任务数，如果不指定，该值默认为1，gpbackup会使用一个任务（即一个数据库连接）进行备份。可以通过增加该值来提升备份速度，如果指定了大于1的值，备份操作会以表为单位进行并发操作，每个表开启一个单独的事务。需要特别注意的是，指定该参数进行并发备份时，不要进行外部程序操作，否则无法保证多表之间的事物一致性。该参数可以与 `--metadata-only, -- single-data-file, --plugin-config` 参数共同使用。
--leaf-partition-data `可选参数`, 为分区表的每一个叶子节点单独创建备份文件，而不是为整个表创建一个备份文件(默认)。使用该参数配合 `--include-table, -- include-table-file, --exclude-table, --exclude-table-file` 参数可以实现包含或排除叶子节点数据的操作。
--metadata-only `可选参数`, 仅备份元数据（即创建数据库对象的DDL语句），不备份任何实际的生产表数据。
--no-compression `可选参数`, 不启用压缩。
--plugin-config string `可选参数`, 指定plugin配置文件位置，该文件是一个有效的YAML文件，用来指定在备份过程中使用的plugin应用的配置信息。由于备份的plugin通常都是为了将备份放到远程存储，所以该选项不能与 `--backup-dir` 同时使用；例如可以使用s3的库将备份文件放到亚马逊S3存储上。也可以通过开放接口自己编写plugin，具体可以参考：https://gpdb.docs.pivotal.io/6-17/admin_guide/managing/backup-plugins.html
--quiet `可选参数`, 静默模式，除了warning和error信息都不打印。
--single-data-file `可选参数`, 每个segment的数据备份成一个文件，而不是每个表备份一个文件（默认）。如果指定了该选项，在使用gprestore恢复的时候，不能使用 `--job` 选项进行并发恢复。需要特别注意，如果要使用该参数，需要配合 `gpbackup_helper` 命令一起使用，该命令与gpbackup和gpresotre一起编译生成，需要把这个命令放到所有segment host的greenplum-db/bin目录下。 --verbose `可选参数`, 打印详细日志信息。
--version 打印gpbackup的版本号并退出。
--with-stats `可选参数`, 备份查询计划统计信息。
--without-globals `可选参数`, 不备份全局对象。
从上面各个参数的详细解释中，大家也可以得出一个总结，gpbackup 的必选参数只有 --dbname，其他参数均为可选参数，有些参数之间是存在互斥关系的，大家在使用过程中一定要注意。
gprestore帮助命令
[chris@gpt1 ~]$ gprestore --help
gprestore is the parallel restore utility for Greenplum
Usage:
gprestore [flags]
Flags:
--backup-dir string `可选参数`, 写入备份文件的绝对路径，不能采用相对路径，如果您指定了该路径，恢复操作会在所有机器上的这个目录下查找备份文件（包括元数据文件）。如果您不指定这个选项，元数据文件会从Master节点的 `$MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/` 目录下查找，数据文件会从segment主机的 `/backups/YYYYMMDD/ YYYYMMDDhhmmss/`目录下查找。该选项不能与 `--plugin-config` 选项共同使用。
--copy-queue-size int `可选参数`, 自行编译最新版本gpbackup带有的参数，该参数只能配合 `--single-data-file` 参数一起使用，当定义了 `--single-data-file` 参数以后，通过执行 `--copy-queue-size` 参数的值来指定gprestore命令使用COPY命令的个数，默认值为1。
--create-db `可选参数`, 在执行数据库对象(metadata)恢复之前先创建数据库，该操作实际上通过复制标准模版数据库template0来实现；如果不指定该参数，默认不会创建数据库，此时就要求该数据库必须存在，否则恢复失败。
--data-only `可选参数`, 仅恢复数据，不恢复表结构信息，这就要求要恢复的表必须已经在数据库中存在。需要特别注意的是，该表上SEQUENCE的值会被恢复成备份时的状态。
--debug `可选参数`, 打印详细的调试信息。
--exclude-schema stringArray `可选参数`, 指定恢复操作要排除的数据库模式(schema)， 如果要排除多个模式，需要多次定义，不支持 `--exclude-schema=schema1,schema2` 的方式。另外该参数与 '--exclude-schema-file, exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。
--exclude-schema-file string `可选参数`, 包含恢复操作要排除的数据库模式的文件，每一行为一个模式名，该文件不能包含多余的符号，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。该参数与 '--exclude-schema, --exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。
--exclude-table stringArray `可选参数`, 指定恢复操作中要排除的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table-file, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。另外该参数也支持多次指定。
--exclude-table-file string `可选参数`, 指定文件包含恢复操作中要排除的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --include-schema, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。如果有多个表，需要在文件中分行多次指定。
--help 显示命令行参数帮助信息，与具体的恢复操作无关。
--include-schema stringArray `可选参数`, 指定恢复操作要包含的数据库模式(schema)， 如果要包含多个模式，需要多次定义，不支持 `--include-schema=schema1,schema2` 的方式。另外该参数与 '--exclude-schema, --exclude-schema-file, exclude-table, --exclude-table-file, --include-schema-file, --include-table, --include-table-file' 这几个参数不能同时使用。
--include-schema-file string `可选参数`, 包含恢复操作要包含的数据库模式的文件，每一行为一个模式名，该文件不能包含多余的符号，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --exclude-table-file, --include-schema, --include-table, --include-table-file' 这几个参数不能同时使用。
--include-table stringArray `可选参数`, 指定恢复操作中要包含的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table-file' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。另外该参数也支持多次指定。
--include-table-file string `可选参数`, 指定文件包含恢复操作中要包含的表名，该参数与 '--exclude-schema, --exclude-schema-file, --exclude-table, --exclude-table-file, --include-schema, --include-schema-file, --include-table' 这几个参数不能同时使用。指定表名时，必须使用 `.` 的格式指定匹配到具体的模式，如果数据库中的模式包含除了：字母、数字和下划线以外的特殊符号，那么请在文件中用双引号进行包裹。如果有多个表，需要在文件中分行多次指定。
--incremental `可选参数`, `测试功能`: 该选项与 '--data-only' 必须一起使用，仅恢复 '--timestamp' 参数指定的时间戳备份的数据，不恢复之前的全量和增量备份。该功能只对AO表有效，恢复的数据包括Heap表全量数据、最新修改备份的AO表增量数据、最新修改备份的叶子分区增量数据。
--jobs int `可选参数`, 指定进行表恢复过程中的并行任务数，如果不指定，该值默认为1，gprestore会使用一个任务（即一个数据库连接）进行备份。可以通过增加该值来提升备份速度，如果指定了大于1的值，备份操作会以表为单位进行并发操作，每个表开启一个单独的事务。需要特别注意的是，指定该参数进行并发备份时，不要进行外部程序操作，否则无法保证多表之间的事物一致性。该参数与 `-- single-data-file` 参数共同使用时，只能设置为1。
--metadata-only `可选参数`, 只恢复数据库的模式信息，该操作假设数据库中不存在要恢复的表。可以同时配合 '--with- global' 参数恢复数据库全局对象。如果后期想恢复数据，可以配合 '--data-only' 参数一起使用。
--on-error-continue `可选参数`, 指定该参数可以在出现恢复错误时，让恢复操作继续。默认情况下出错后马上退出恢复。在该操作模式下，错误信息会记录到备份目录的对应文件下，元数据恢复错误记录到日志文件 'gprestore___error_tables_metadata' 中，生产数据恢复错误记录到日志文件 'gprestore___error_tables_data' 中。
--plugin-config string `可选参数`, 指定plugin配置文件位置，该文件是一个有效的YAML文件，用来指定在恢复过程中使用的plugin应用的配置信息。该参数通常对应gpbackup使用该参数的场景，从一些非本地存储设备上进行恢复。
--quiet `可选参数`, 静默模式，除了warning和error信息都不打印。
--redirect-db string `可选参数`, 将数据恢复到指定的数据库，而不是恢复到原来备份的数据库中。
--redirect-schema string `可选参数`, 恢复数据到指定模式，而不是恢复到原来备份的模式中。即使原来的数据来自多个模式的多个表，也可以同时恢复到指定的模式和表中。这个参数必须与参数 '--include-table-file, --include-schema, 或 --include-schema- file' 一起使用以指定原来的表或者模式名称，当然这也决定了我们不能将它与参数 '-- exclude-schema 或 --exclude-table' 同时使用。该参数还可以配合 '--metadata-only 或 --data-only' 来恢复元数据或生产数据。
--run-analyze `可选参数`, 在运行完表数据恢复后，执行 'ANALYZE' 操作，该参数不能与 '--with-stats' 参数同时使用；默认情况下，针对分区表，会ANALYZE根分区，如果您指定了 '--leaf-partition-data' 则只会去ANALYZE对应恢复了数据的子分区。
--timestamp string `必选参数`, 指定要恢复的备份集的时间戳，格式为：'YYYYMMDDHHMMSS'。
--truncate-table `必选参数`, 在恢复之前先把目标表清空，该参数主要为了避免数据重复问题。
--verbose `可选参数`, 打印详细日志信息。
--version 打印gpbackup的版本号并退出。
--with-globals `可选参数`, 恢复全局对象。
--with-stats `可选参数`, 恢复查询计划统计信息。
使用示例
1.常规备份，只指定--dbname参数
gpbackup --dbname db1
实验总结： 如果只指定数据库名称，会将这个数据库的所有对象都进行备份，例如：元数据、表数据、资源队列、资源组、角色等。
元数据存储在Master节点的$MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/目录下，会生成4个文件，
其中：
config.yaml 记录gpbackup 运行时的参数配置项；
report 记录备份下来的数据库对象信息，主要是对象数量；
toc.yaml 记录元数据之间的依赖关系；
metadata.sql 记录表结构DDL的详细信息。
Master节点生成的四个文件（standby master无数据）：
生产表数据存储在segment实例的backups目录下，比如我这边/opt/greenplum/data/primary/gpseg0/backups/20230303/20230303121616
解压打开其中一个表文件看一下，里面是csv内容：
如果你想解压x.txt.gz到x.txt，同时保留x.txt.gz，你可以输入：gunzip -c x.txt.gz > x.txt
2.指定--backup-dir参数进行备份
实验语句：
gpssh -f ~/conf/all_hosts -v -e 'mkdir -p /home/gpadmin/bk/'
gpbackup --dbname=db1 --backup-dir=/home/gpadmin/bk/
实验总结： 指定--backup-dir的操作可以将备份统一到一个固定的目录，这就要求所有服务器上必须都存在--backup-dir后面指定的这个目录，比如我这里的目录是/home/gpadmin/bk。这个适合公司对备份目录有固定要求，或者必须放置到共享存储中的场景，通过定义统一的目录，就可以把所有的备份数据都放在我们可以获知的任意位置（当然管理员用户必须具有目录的访问权限）。 Master节点上的信息展示如下，文件还是那些文件，只不过目录不同了。
egment节点上的信息展示如下，可以看到是通过segment名字进行区别，所以不要担心在共享存储中会出现覆盖的问题。
3.指定--data-only参数只备份数据
gpbackup --dbname=db1 --backup-dir=/data/backups/ --data-only
实验总结：
如果指定了--data-only，Master节点将不会导出创建数据库对象的DDL语句，这个场景只适合于数据临时导出操作，没有表结构，如果恢复的时候数据库中没有表，也无法实现恢复。个人感觉这种场景不太多，毕竟备份一下DDL也不浪费多少时间。 Master节点中查看metadata.sql文件，没有信息，*Segment节点，显然只有表数据
4.指定--jobs参数进行并行备份
gpbackup --dbname=db1 --backup-dir=/home/gpadmin/bk/ --jobs=8
实验总结： 指定了--jobs=2参数以后，理论上在各个节点上备份时，会同时启动两个事务分别备份2个表，我们可以通过数据库的日志进行甄别，如下可以看到，四条日志中，前两条是上一次备份的日志，没开并行，可以看出时间是顺序的；后两条是本次开启2个并行的备份操作，可以看到基本是同一时间发起的：
5.指定--single-data-file参数将segment数据备份成单个文件
gpbackup --dbname=db3 --backup-dir=/data/backups/ --jobs=2 --single-data-file (jobs )
20220401:20:40:04 gpbackup:chris:gpt1:006190-[CRITICAL]:-The following flags may not be specified together: jobs, metadata-only, single-data-file
gpbackup --dbname=db3 --backup-dir=/data/backups/ --single-data-file
实验总结： 在上面的实验中，我首先把--jobs=2和--single-data-file参数同时使用，大家可以发现已经出现报错了，因为不支持这两个参数同时使用。下面第二个命令将并发参数去掉后，可以正常备份，这个参数会影响到segment节点把所有的表数据都备份到同一个文件中，如下查看单个segment备份目录下的文件可以看出：
6.指定--incremental参数进行增量备份
增量备份只对AO表起作用
create table tao(id int) with (appendoptimized=true);
insert into tao values(1),(2),(3),(4);
实验总结： 增量备份参数--incremental，需要与--leaf-partition-data参数同时使用，并且在创建基础全量备份时，也必须带有该参数，否则增量备份找不到基础备份会报错退出。另外增量备份只对AO表有效，Heap表每次都会进行全量备份
gprestore
如果要使用 gprestore 进行数据库恢复，那就要求您必须已经使用 gpbackup 进行了数据库备份，恢复时通过指定 --timestamp 参数把备份集传给 gprestore。如果您指定的是一个增量备份的时间戳，那这个增量备份的 base 全量备份及其他增量文件必须均存在，恢复时会校验备份集合的完整性，防止恢复出错。
在恢复数据时，默认情况下会将数据恢复到 gpbackup 备份的数据库中，如果该数据库已经不存在了，需要通过指定 --create-db 参数来自动创建数据库；如果数据库存在但是模式不存在，也会自动创建模式，如果模式已经存在，则会告警提示并继续恢复数据；如果数据库中同名的表已经存在，则恢复会失败并立刻停止。
1.常规恢复，只指定 --timestamp 参数
gprestore --backup-dir=/data/backups/ --timestamp=20220402190737
如果要进行 数据恢复，请指定备份数据集的时间戳，这些时间戳可以从备份目录的文件夹目录名称获取，只指定一个时间戳时，如果无论您指定的是全量备份还是增量备份的时间戳，都能正常恢复，指定全量备份时，只恢复全量部分； 指定增量备份时间戳时，会恢复改增量及其以前的增量和全量数据。
2.指定 --create-db 参数，自动创建数据库
实验总结：
--create-db 参数可以帮助我们自动创建数据库，所以我们如果想做全库恢复并且担心数据重复，最好把数据库整个删掉然后直接用该参数执行恢复，这样最省事了。
3.指定 --truncate-table 参数，恢复前把表清空
由于 --truncate-table 参数是用来清空表的，也就是说表必须是存在的，如果表必须存在，那我们就不需要再恢复 metadata 表结构，此时也就要求我们在使用 --truncate-table 时必须配合 --data-only 一起使用，否则会报错，下面的实验语句，我做了三次，分别实验了：
1.只带有 --truncate-table 参数；
2.--truncate-table 参数和 --data-only 参数配合使用；
3.--truncate-table 参数和第一个小实验中提示的 --include-table or --include-table-file 参数配合使用（实验报错），因为使用了 --include-table or --include-table-file 参数时，必须配合 --data-only 参数一起使用
实验总结：
--truncate-table 参数只有和 --data-only 参数一起使用时才会有效，主要是为了防止数据恢复时存在重复的问题。
4.指定 --redirect-schema 参数，恢复到指定的模式
实验总结：
该实验展示了如何将 public 模式下的所有表恢复到 s1 模式下。您也可以将不同模式下的两个表的数据恢复到另外一个模式下的同一个表，但是这要求我们配合如下参数一起使用：--redirect-schema=s2 --include-table=public.tao --include-table=s1.tao --data-only 。
5.指定 --on-error-continue 参数，遇到问题并继续（慎用！！！）
6.指定 --redirect-db 参数，恢复到特定数据库
--redirect-db 参数可以将 gpbackup 原来备份的数据库数据恢复到新的数据库中，该参数指定的数据库可以存在也可以不存在，如果数据库不存在，就必须配合 --create-db 参数一起使用。
实验总结：
在一些实验环境下，可以通过该参数从备份快速创建测试数据库，而不必担心对原来的数据库产生什么影响。如果目标数据库不存在，可以配合 --create-db 参数自动创建数据库。
备份恢复操作的状态码
为了方便大家在程序中调用 gpbackup/gprestore 命令后进行成功与否的判断，两个命令执行完成后，均会返回状态码，状态码几其代表的意义如下：
0 - 备份 / 恢复成功，没有错误
1 - 备份 / 恢复成功，没有 fatal 错误
2 - 备份 / 恢复失败，带有 fatal 错误
邮件告警配置
gpbackup 和 gprestore 操作完成后，可以进行邮件告警，如果您想使用该功能，那就需要提前在 $HOME 目录或 $GPHOME/bin/ 目录下创建好发送邮件用的服务器信息配置，如果二者都做了配置，那会以 $HOME 目录下的文件为准。
编写配置文件 gp_email_contacts.yaml
文件格式如下，在创建 YAML 的时候，要保证 YAML 的格式正确：
contacts:
gpbackup:
- address: yuanzefuwater@126.com
- status: success: true success_with_errors: true failure: true gprestore: - address: yuanzefuwater@126.com status: success: true success_with_errors: true failure: true
gpbackup
gpbackup工具用来备份数据库的内容到元数据文件集合和数据文件集合，这些文件可以被 gprestore工具用来恢复数据库。当备份数据库时，可以通过指定表级别和模式级别选项来 备份某些特定的表。例如，可以通过组合模式级别和表级别选项来备份模式下的所有表，并排除某一张单独的表。
默认情况下，gpbackup备份指定数据库的对象和Greenplum数据库系统全局对象。可以通过 gprestore工具指定可选参数--with-globals来恢复全局对象。更多 信息请见备份或还原中包含的对象 。
gpbackup默认将Greenplum数据库备份对象元数据文件和DDL文件存储在Master数据目录下。 Greenplum Segment使用COPY … ON SEGMENT命令将数据备份为压缩CSV数据文件，并 存储在每个Segment的数据目录下。更多信息请见理解备份文件。
可以通过指定--backup-dir选项将Master和Segment主机上的数据备份到一个绝对 路径下。可以通过指定其他选项来过滤备份集合来排除或包含指定的表。
可以通过指定 --incremental选项来启动增量备份。增量备份在追加优化表或 表分区上的变化数据小于未发生变化的数据时有效。有关增量备份的详细信息，请见使用gpbackup和gprestore创建增量备份。
指定--jobs选项（1 job），Greenplum数据库Master主机上的每个 gpbackup操作都会启动一个单独的事务。COPY … ON SEGMENT命令在每个Segment主机上并行执行备份任务。备份进程会在备份的每张表 上唤起ACCESS SHARE锁。在表锁处理过程中，数据库处于静止状态。
当备份操作完成后，gpbackup会返回状态码。详情请见 返回码。
gpexpand正在初始化新segments时，gpbackup工具不能 运行。集群扩展完成后，在扩展之前创建的备份不能被gprestore使用。
gpbackup可以在备份操作完成后发送Email状态通知。客户可以在配置文件中 创建工具发送和接收服务器信息。详情请见配置邮件通知。
Note: 该工具在系统内部采用SSH连接执行各项操作任务。在大型Greenplum集群、云部署或每台主机部署了大量的 segment实例时，可能会遇到超过主机最大授权连接数限制的情况。此时需要考虑更新SSH配置参数MaxStartups 以提高该限制。更多关于SSH配置的选项，请参考您的Linux分发版的SSH文档。
配置选项
--dbname database_name 必须。指定要备份的数据库。
--backup-dir directory 可选。复制所有备份文件（元数据文件和数据文件）到指定路径。必须指定directory 为绝对路径（不能是相对路径）。如果不提供该选项，
元数据文件会保存在Greenplum Master主机的 $MASTER_DATA_DIRECTORY/backups/YYYYMMDD/YYYYMMDDhhmmss/ 路径下。
Segment主机的CSV数据文件保存在/backups/YYYYMMDD/YYYYMMDDhhmmss/ 路径下。当指定该选项时，文件会被复制到备份目录的子路径下。
该选项不能和--plugin-config一起使用。
--compression-level level 可选。指定用来压缩数据文件的gzip压缩级别（从1到9）。默认为1。注意，gpbackup 默认使用压缩。
--data-only 可选。仅将表数据备份到CSV文件，不备份用来重建表和其他数据库对象的元数据文件。
--debug 可选。显示操作期间的调试信息。
--exclude-schema schema_name 可选。指定要被排除备份的模式名。该参数可以指定多次以排除多个模式。该选项不能与
--include-schema一起使用，也不能与表过滤选项例如：
--include-table一起使用。更多信息请见过滤备份或恢复的内容。
--exclude-table schema.table 可选。指定要排除在备份中的表。被排除的表必须为格式. 。如果表或模式名使用了任何非小写字母、数字或下划线，必须用双引号包裹名字。
该选项可以指定多次。 该选项不能与--exclude-schema或--include-table同时使用。 该选项不能和--leaf-partition-data组合使用。
虽然您可以指定子分区名字，但是 gpbackup会忽略分区名称。 更多信息详见过滤备份或恢复的内容 。
--exclude-table-file file_name 可选。指定一个包含需要排除在备份之外的列表文件。每行必须指定一个单独的表，格式为 .。文件不能包含多余的行。
如果表或模式名使用了任何非小写字母、数字或下划线，必须用双引号包裹名字。该选项可以指定多次。 该选项不能与--exclude-schema或--include-table同时使用。
该选项不能和--leaf-partition-data组合使用。虽然您可以在--exclude-table-file 中指定子分区名字，但是gpbackup会忽略分区名称。 更多信息请见过滤备份或恢复的内容 。
--include-schema schema_name 可选。指定要包含在备份中的数据库模式名。可以多次指定该参数来包含多个备份模式。如果指定该选项，
任何不包含在--include-schema中的模式都不会放在备份集中。该选项不能与选项 --exclude-schema、--include-table或 --include-table-file一起使用。
更多详情请见过滤备份或恢复的内容。
--include-table schema.table 可选。指定一个要包含在备份中的表。该表的格式必须为.。 如果表或模式名使用了任何非小写字母、数字或下划线，必须用双引号包裹名字。
有关模式和表名中支持的 字符信息详情，请见模式和表名中的模式和表名部分。 该选项可以指定多次。该选项不能和模式筛选选项--include-schema或--exclude-table-file等 一起使用。
客户也可以指定序列或视图的名字。 如果指定该选项，该工具不会自动备份依赖对象。客户必须指定相关依赖对象。例如，如果备份了视图， 客户必须备份试图所用的表。
如果备份表用到了一个序列，客户必须也备份相关的序列。 可以在表名处通过指定--leaf-partition-data选项来指定表子分区名字， 仅备份指定的分区。当指定子分区备份时，
子分区数据和分区表的元数据信息都会被备份。 更多信息请见过滤备份或恢复的内容 。
--include-table-file file_name 可选。指定一个备份时需要的表名列表文件。文件中的每行必须定义为单独的表名，格式为： .。该文件不能包含多余的列。
有关模式和表名中支持的 字符信息详情，请见模式和表名中的模式和表名部分。 任何没有列在文件中的表都会被排除在备份集以外。
该选项不能与模式过滤选项--include-schema 或--exclude-table-file等一起使用。 该选项也可以指定序列和视图名称。 如果指定该选项，该工具不会自动备份依赖对象。
客户必须指定相关依赖对象。例如，如果备份了视图， 客户必须备份试图所用的表。如果备份表用到了一个序列，客户必须也备份相关的序列。
可以在表名处通过指定--leaf-partition-data选项来指定表子分区名字， 仅备份指定的分区。当指定子分区备份时，子分区数据和分区表的元数据信息都会被备份。
更多信息请见过滤备份或恢复的内容 。
--incremental 指定该选项可以增加一个增量备份到增量备份集中。一个备份集包括一个全量备份和一个或多个增量备份。 该备份集合必须是连续性的，以保证在恢复时是可用的。
默认情况下，gpbackup会找出最近的备份。如果该备份是全备份，工具会创建一个 备份集合。如果备份为增量备份，工具会将备份增加到已经存在的备份集。
增量备份被增加到备份集的最后 。可以通过指定--from-timestamp来覆盖默认的行为。 --from-timestamp backup-timestamp 可选。指定备份时间戳。
指定的备份必须已经有增量备份存在。如果指定的备份只有全量备份，该工具 会创建一个备份集。如果指定的备份是增量备份，工具会将增量备份直接备份到该备份集合。
该选项必须与--leaf-partition-data选项一起使用。不能与--data-only 或--metadata-only一起使用。
如果备份操作不能增加备份到已经存在的增量备份集或者不能使用备份来创建一个备份集，工具将不能创建备份 并且工具会返回错误。
有关创建和使用增量备份的详细信息，请见使用gpbackup和gprestore创建增量备份。
--jobs int 可选。指定进行表备份的并行任务数量。默认gpbackup采用1个任务（数据库连接）。 增加该参数的值可以提高数据备份的速度。多运行多个任务时，
每个任务会在一个单独的事务中备份表。 例如，如果指定--jobs 2，工具会创建2个进程，每个进程启动一个单独的事务， 工具会使用这两个进程并行的备份表。
Important: 如果指定超过1的值，数据库在工具从表上获取备份用的锁时处于静默状态。 如果数据库操作正在那些被备份的表上执行，
此时进行备份的话这些表在不同事务中的锁处理和一致性 问题不能被保证。 该选项不能和--metadata-only、--single-data-file或 --plugin-config一起使用。
--leaf-partition-data 可选。对于分区表，该选项定义后会为每一个子分区创建一个单独的数据文件，而不是为整个表创建一个 完成的文件（默认）。
使用该选项要求客户通过--include-table-file选项指定 包含在备份中的单独子节点分区。该选项不能与--exclude-table-file或 --exclude-table选项同时使用。
--metadata-only 可选。仅创建可用来重建数据库的元数据文件（DDL），不备份表的实际数据。 --no-compression 可选。不对表数据CSV文件进行压缩。
--plugin-config config-file_location 指定gpbackup插件配置文件的位置，该文件是一个YAML格式的文本文件。 该文件包含gpbackup在备份操作期间使用的配置信息。
如果在备份数据库时指定了--plugin-config选项，那么在从备份 恢复数据库时也需要同样指定对应的配置信息。 该选项不能与--backup-dir一起使用。
有关使用存储插件应用的详细信息，请见使用gpbackup存储插件部分。
--quiet 可选。不显示所有非告警、非错误日志信息。
--single-data-file 可选。在每个Segment主机上为所有备份的表创建一个单独的数据文件。默认情况下，每个gpbackup 会为每张表创建一个压缩CSV文件。
Note: 如果选用--single-data-file选项来将每个Segment实例上的数据备份为1个文件， 就不能在使用gprestore时指定--jobs选项为超过1的值来执行 并行恢复。
--verbose 可选。打印详细日志信息。 --version 可选。打印工具版本号并退出。 --with-stats 可选。在备份集中包含查询计划统计信息。 --help 显示在线帮助信息。
返回码
gpbackup完成后会返回如下返回码之一。
0 – 成功完成备份。
1 – 备份完成，没有严重错误。具体信息见日志文件。
2 – 备份失败，有严重错误。具体信息见日志文件。
模式和表名
当指定表过滤项--include-table或--include-table-file 为列表文件时，gpbackup支持备份模式或表名包含以下特殊字符时。
~ ## $ % ^ & * ( ) _ - + [ ] { } > < \ | ; : / ? ! ,
如果在命令行指定--include-table选项时，名字包含大写字母或特殊字符时，名字必须被 单引号包裹
gpbackup --dbname test --include-table 'my#1schema'.'my_$42_Table'
当使用--include-table-file选项，表名被放在文件中时，不需要使用单引号。例如， 使用--include-table-file选项备份两个表。
1 my#1schema.my_$42_Tablemy#1schema.my_$590_Table
Note: --include-table和--include-table-file选项不支持 模式名或表名包含双引号（”）、点号（.）、换行符（\n） 或空格符（ ）
示例
备份”demo”数据库中的所有模式和表，包括Greenplum数据库全局系统对象：
$ gpbackup --dbname demo
备份”demo”数据库中除了”twitter”模式以外的所有模式和表：
$ gpbackup --dbname demo --exclude-schema twitter
仅备份”demo”数据库中的”twitter”模式：
gpbackup --dbname demo --include-schema twitter
备份”demo”数据库中的所有模式和表，包括Greenplum数据库全局系统对象，将所有备份文件复制到 /home/gpadmin/backup路径下。
$ gpbackup --dbname demo --with-stats --backup-dir /home/gpadmin/backup
该示例使用--include-schema和--exclude-table 备份指定模式，除了单独的一张表。
gpbackup --dbname demo --include-schema mydata --exclude-table mydata.addresses
--exclude-schema选项不能与表过滤选项一起使用，例如--include-table。
gprestore实例
恢复由gpbackup创建的Greenplum数据库备份。默认gprestore 使用位于Greenplum Master主机数据目录下的元数据文件和DDL文件，使用存储于Segment主机上的表数据CSV 文件
1.创建demo数据库并恢复备份集合中指定时间的所有表名和模式名：
$ dropdb demo
$ gprestore --timestamp 20171103152558 --create-db
恢复备份集到”demo2”数据库而不是默认备份的”demo”数据库：
$ createdb demo2
$ gprestore --timestamp 20171103152558 --redirect-db demo2
恢复数据库全局对象和查询计划统计信息，而不是默认的全部数据
$ gprestore --timestamp 20171103152558 --create-db --with-globals --with-stats
使用创建在/home/gpadmin/backup下的文件恢复数据，创建8个并行连接：
$ gprestore --backup-dir /home/gpadmin/backups/ --timestamp 20171103153156 --create-db --jobs 8
仅恢复备份集中的”wikipedia”模式：
$ dropdb demo$ gprestore --include-schema wikipedia --backup-dir /home/gpadmin/backups/ --timestamp 20171103153156 --create-db
如果从增量备份集中恢复，所有需要的备份文件都必须对gprestore可用。例如， 以下时间戳指定增量备份集。20170514054532时增量备份集合的全备份。
以下gprestore命令指定时间戳20121114064330。时间戳为20120714095512和 20120914081205的增量备份和全量备份必须都能被恢复程序访问。
gprestore --timestamp 20121114064330 --redirect-db mystest --create-db
效率比较
在Greenplum中，gpbackup和pg_dump是两种备份工具，它们在效率方面有所不同。
1.gpbackup是Greenplum专用的备份和还原工具，它针对Greenplum数据库进行了优化。它使用并行备份策略，可以同时备份多个数据段（segments），并且备份的数据以数据段为单位进行切分和并行处理。这种并行处理的方式可以显著提高备份和还原的效率，特别适用于大型Greenplum数据库。此外，gpbackup还支持增量备份和并行压缩，可以减少备份数据的大小和备份时间。
2.pg_dump是PostgreSQL的标准备份工具，也可以用于备份Greenplum数据库。pg_dump以逻辑方式备份数据库，生成一个SQL脚本文件，该文件包含可以还原数据库的SQL语句。相比于gpbackup，pg_dump的备份过程是顺序的，无法进行并行备份。对于大型Greenplum数据库，备份时间可能较长。
总体而言，gpbackup在备份和还原大型Greenplum数据库方面通常比pg_dump更高效。gpbackup利用Greenplum的并行处理能力，可以加快备份速度并降低备份时间。如果您的数据库规模较大，并且需要快速备份和还原，推荐使用gpbackup。但是，如果您只是需要简单地备份和还原小型数据库，pg_dump也是一个可行的选择。
备份恢复实例
安装软件
下载账号
275138572@qq.com
19940602.Xue
上传文件到指定目录
gpscp -v -f all_hosts /opt/greenplum_backup_restore-1.29.3-rhel7.tar.gz =:/data/backup
解压备份文件
gpssh -f all_hosts -v -e 'tar -xzvf /data/backup/greenplum_backup_restore-1.29.3-rhel7.tar.gz -C $GPHOME'
检查安装
gpssh -f all_hosts -v -e 'gpbackup --version'
备份
gpssh -f all_hosts -v -e 'mkdir -p /data/backup/'
gpbackup --dbname=sonardb --backup-dir=/data/backup/
恢复实例：
--timestamp 20241023161837时间戳可以在备份中查询，也可以转换固定时间
测试环境，值恢复备份中的test 表，并且映射到demo2库中
gprestore --backup-dir /data/backup/202410231618/db_backup_test_backup_202410231618 --timestamp 20241023161837 --create-db --redirect-db demo2 --include-table=public.test
恢复全库
gprestore --backup-dir /data/backup/202410231618/db_backup_test_backup_202410231618 --timestamp 20241023161837 --create-db --redirect-db demo2
浙公网安备 33010602011771号