1 文件跑批
1.1 全量
- 使用先删后增的方法
优势:实时更新最新的数据
劣势:会存在删除成功,新增失败的情况,导致数据表为空,阻断测试
解决方案:
a 删除和新增的方法放到一起,添加事务
b 先做好判断文件为空和文件不存在的情况,在进行跑批
1.2 增量
- 使用InsertOrUpdate方法
优势:跑批即使失败,也不会导致表清空(和先删后增相比)。
劣势:如果有的数据就是不想要了,后边跑的数据量少,会导致数据删除不掉 的情况。
解决方案:
增量本来就是增加的
2 事件调用
2.1 禁止抛异常
事件的消费方,特别是数据量比较大的情况,需要注意消费方不抛异常,预防造成死信队列。
诸葛