datax 配置
"setting": {
"speed": {
"channel": 3,
"record":1000,
"byte": 1048576,
"batchSize":1024
},
"errorLimit": {
"record": 0,
"percentage": 0.02
}
}
speed为同步速度限制参数,这里有三个参数channel、record和byte。
channel:管道数,即并行数,需与splitPk一同使用,否则无效果。
record:每次同步多少条数据,取record和byte中的最小值
byte:每次同步多少字节数据,取record和byte中的最小值
batchSize: 默认值:1024,一次性批量提交的记录数大小,该值可以极大减少DataX与Mysql的网络交互次数,并提升整体吞吐量。但是该值设置过大可能会造成DataX运行进程OOM情况。
errorLimit为错误数据限制,这里有两个参数record和percentage,指当异常数据达到多少时同步取消,取record和percentage的最小值
浙公网安备 33010602011771号