1    文件跑批

1.1  全量

  • 使用先删后增的方法

优势:实时更新最新的数据

劣势:会存在删除成功,新增失败的情况,导致数据表为空,阻断测试

解决方案:

a  删除和新增的方法放到一起,添加事务

b  先做好判断文件为空和文件不存在的情况,在进行跑批

 

1.2  增量

  • 使用InsertOrUpdate方法

优势:跑批即使失败,也不会导致表清空(和先删后增相比)。

劣势:如果有的数据就是不想要了,后边跑的数据量少,会导致数据删除不掉 的情况。

解决方案:

增量本来就是增加的

 

2    事件调用

2.1    禁止抛异常

事件的消费方,特别是数据量比较大的情况,需要注意消费方不抛异常,预防造成死信队列。

posted on 2022-09-20 09:14  菜鸟乙  阅读(51)  评论(0)    收藏  举报