将GaussDB集中式版同步到Kafka（上）

支持的源和目标数据库

表1 支持的数据库

源数据库	目标数据库
GaussDB集中式版（版本数据库内核版本为505.2及以下版本，内核版本与数据库引擎版本的关系请参考云数据库GaussDB的数据库引擎版本说明。）	Kafka 0.11及以上版本

支持的同步对象范围

在使用DRS进行同步时，不同类型的同步任务，支持的同步对象范围不同，详细情况可参考表2。DRS会根据用户选择，在“预检查”阶段对同步对象进行自动检查。

表2 支持的同步对象

类型名称

同步范围

同步范围须知

不支持实例级同步：不支持实例级别同步，每次至多同步一个库（database），同步多个库需要使用多个DRS任务。 支持场景：支持增量同步。 支持的字段：BIGINT，TINYINT UNSIGNED，SMALLINT UNSIGNED，INTEGER UNSIGNED，BIGINT UNSIGNED，BIT，BIT VARYING，BLOB，BOOLEAN，BYTEA，CHARACTER，CHARACTER VARYING，CLOB，DATE，DOUBLE PRECISION，INTEGER，MONEY，NUMBER，NUMERIC，NVARCHAR2，RAW，REAL，SMALLDATETIME，SMALLINT，TEXT，TIME WITH TIME ZONE，TIME WITHOUT TIME ZONE，TIMESTAMP WITH TIME ZONE，TIMESTAMP WITHOUT TIME ZONE，TINYINT。 支持表级同步、schema级同步、库级同步： 仅支持同步选中表的DML。 不支持同步没有schema的database。 不支持同步没有表的schema。 不支持同步列存表、压缩表、延迟表、临时表、含生成列的表，不建议同步非日志表。 不支持同步系统schema（pg_toast、cstore、snapshot、sys、dbms_job、dbms_perf、pg_catalog、information_schema、utl_file、dbms_output、dbms_random、utl_raw、dbms_sql、dbms_lob、dbe_perf、pkg_service、pkg_util、dbe_file、dbe_random、dbe_output、dbe_raw、dbe_sql、dbe_lob、dbe_task、blockchain、db4ai、dbe_pldebugger、sqladvisor、dbe_application_info、dbe_match、dbe_pldeveloper、dbe_scheduler、dbe_session、dbe_utility、dbe_sql_util、dbe_xml、dbe_xmldom、dbe_xmlparser、dbe_compression、dbe_heat_map、dbe_ilm、dbe_ilm_admin、prvt_ilm、dbe_profiler、dbe_stats、rdsBackup、rdsMetric、rdsRepl）。 不支持同步系统表（public schema下的redis_progress_detail、redis_status、pgxc_redsitb、redis_progress）。 库名、schema名和表名不可以包含/<.>\\'`|\?和!。列名不可以包含"'和.。 增量同步过程中支持DDL操作。 默认同步的DDL类型：CREATE_INDEX, ALTER_TABLE, ALTER_INDEX, TRUNCATE_TABLE, DROP_TABLE, DROP_INDEX, CREATE_SCHEMA, CREATE_TABLE, ALTER_SCHEMA, DROP_SCHEMA。 对于ALTER_TABLE, DRS支持ADD_COLUMN，RENAME_COLUMN，MODIFY_COLUMN，CHANGE_COLUMN，ALTER_COLUMN等基本语法。 对于CREATE_INDEX和ALTER_INDEX, DRS支持创建和修改基于基本字段类型的普通索引。

数据库用户权限要求

在使用DRS进行同步时，连接源库和目标库的数据库用户需要满足以下权限要求，才能启动实时同步任务。不同类型的同步任务，需要的用户权限也不同，详细可参考表3进行赋权。DRS会在“预检查”阶段对数据库用户权限进行自动检查，并给出处理建议。

说明：

• 建议创建单独用于DRS任务连接的数据库账号，避免因为数据库账号密码修改，导致的任务连接失败。
• 连接源和目标数据库的账号密码修改后，请参考修改连接信息章节修改DRS任务的连接信息，避免任务连接失败后自动重试，导致数据库账号被锁定影响使用。

表3 数据库用户权限

类型名称	增量同步
源数据库连接用户	用户具备sysadmin角色或以下最小权限： 需要REPLICATION权限或继承了内置角色gs_role_replication的权限、DATABASE的CONNECT权限、SCHEMA的USAGE权限、表的SELECT权限。 需要具备远程连接权限，添加方法可参考GaussDB远程连接配置方法。 需要保证安全组和防火墙策略放开对应连接端口，详细说明可参考GaussDB为源链路增量同步连接及端口说明。

使用建议

• 数据库同步与环境多样性和人为操作均有密切关系，为了确保同步的平顺，建议您在进行正式的数据库同步之前进行一次演练，可以帮助您提前发现问题并解决问题。
• 建议您在启动任务时选择“稍后启动”功能，将启动时间设置在业务低峰期，避免同步对业务造成性能影响。
• 更多DRS对数据库的影响，可参考DRS对源数据库和目标数据库有什么影响。

使用须知

DRS增量同步任务一般包含三个阶段：任务启动阶段、增量阶段、结束任务阶段。为了确保同步各个阶段的平顺，在创建同步任务前，请务必阅读以下使用须知。

表4 使用须知

类型名称	使用和操作约定
任务启动前须知	源数据库参数要求： 选择增量同步时： 源库的wal_level参数设置为logical。 源库的enable_slot_log参数设置为on。 源库的max_replication_slots参数值必须大于当前已使用的复制槽数量。 将无主键表的REPLICA IDENTITY属性设置为FULL，或给无主键表追加主键。 建议将主键表的REPLICA IDENTITY属性设置为FULL。 源数据库对象要求： 源库要同步的库名、schema名和表名不可以包含/<.>\\'`|\?和!。 目标数据库要求： 目标库为社区Kafka。 Kafka的auto.create.topics.enable参数建议为false。 其他使用须知： 在启动任务后，进入增量同步阶段前，请确保在源库中长事务未启动，启动长事务会阻塞逻辑复制槽的创建，进而引发任务失败。 由于长事务导致的创建逻辑复制槽失败或逻辑复制槽不存在的问题，需要通过重置任务来重新启动。 如果DRS实例类型选择主备类型，当DRS任务发生主备切换时，可能会产生无主键表数据重复或不一致的情况。 受GaussDB逻辑复制能力约束，同一实例上，最多支持同时开启20个逻辑复制槽进行解码。 源数据库版本小于94563并且为B或者MySQL兼容模式时，如果开启了b_format参数（例如：set b_format_version='s1'、set b_format_dev_version='s1'或者set b_format_dev_version='s2'），则不支持timestamp with time zone类型的同步。源数据库版本查询可参考如下SQL： select working_version_num();
增量同步过程须知	请勿修改源库和目标库的端口号，请勿修改、删除源库和目标库连接用户的密码、权限，否则可能导致任务失败。 请勿修改源库中表的REPLICA IDENTITY值，否则可能导致增量数据不一致或任务失败。 请勿在Kafka上删除接收DRS数据的topic，否则可能导致任务失败。 选择表级对象迁移时，同步过程中不建议对表进行重命名操作。 不支持interval partition表复制。 不支持修改主键列名称。 在事务中执行DDL语句后，该DDL语句与之后的语句不会被同步。 逻辑日志解码受限于GaussDB内核的解码能力，存在一些使用约束，具体约束请参考对应版本GaussDB逻辑解码章节的注意事项说明。 增量同步过程中暂停、任务异常续传，目标Kafka中可能会出现重复数据，请使用Kafka数据中的id字段进行去重。 由于无主键表缺乏行的唯一性标志，网络不稳定时涉及少量重试，表数据存在少量不一致的可能性。
结束任务须知	任务正常结束 结束时将自动删除任务在源库创建的流复制槽。 任务强制结束 强制结束同步任务，需要手动删除源库可能残留的复制槽，可参考GaussDB集中式版为源强制结束任务章节的指导进行操作。 复制槽命名规则取决于数据库内核版本（可通过select working_version_num();命令查看），版本号低于92556默认使用串行解码，复制槽名命名规则为“replication_slot_唯一性标识”；版本号大于等于92556默认使用并行解码，复制槽名命名规则为“drs_唯一性标识”。其中唯一性标识需要将任务node id中的“-”替换为“_”获取，node id可在DRS任务同步日志页面查看“task node id is ***”日志找到。

 

更多详情请参考GaussDB 文档中心：https://doc.hcs.huawei.com/db/zh-cn/gaussdbqlh/24.1.30/productdesc/qlh_03_0001.html