rabbitmq执行-binlog影响-大批量数据的修改-分批次执行稳妥

rabbitmq执行-binlog影响-大批量数据的修改-分批次执行稳妥

1.监听数据库binlog变更,然后对线上的es数据同步更新。
该中间实现方式是通过rabbitmq方式,binlog服务监听阿里云的变更,发送rabbitmq消息。
es服务在接收到rabbitmq消息后,然后对数据做es同步更新操作。

2.如果出现更新线上的数据库的结构,比如:新增字段等。线上该表的数据很庞大。
这样就会很容易出现rabbitmq消息发生阻塞的现象。

3.解决方案:针对这类表结构的调整,无需大规模的触发阿里云binlog消息。可以在bilog服务做一层过滤操作。
针对变更的数据库及表名称做过滤。规避影响。

4.如果更改的表结构比较多,可以分批次来执行线上的dms操作。减少影响

posted on 2025-03-03 18:39  oktokeep  阅读(19)  评论(0)    收藏  举报