datax 配置

"setting": {
  "speed": {
    "channel": 3,
    "record":1000,
    "byte": 1048576,
    "batchSize":1024
  },
  "errorLimit": {
    "record": 0,
    "percentage": 0.02
  }
}

speed为同步速度限制参数,这里有三个参数channel、record和byte。

channel:管道数,即并行数,需与splitPk一同使用,否则无效果。
record:每次同步多少条数据,取record和byte中的最小值
byte:每次同步多少字节数据,取record和byte中的最小值
batchSize: 默认值:1024,一次性批量提交的记录数大小,该值可以极大减少DataX与Mysql的网络交互次数,并提升整体吞吐量。但是该值设置过大可能会造成DataX运行进程OOM情况。
errorLimit为错误数据限制,这里有两个参数record和percentage,指当异常数据达到多少时同步取消,取record和percentage的最小值

posted @ 2023-11-06 16:45  所向披靡zz  阅读(850)  评论(0)    收藏  举报