doris踩坑csv格式分割问题
简单记录一下问题和解决方法
doris,spark-doirs-connector
Reason: actual column number in csv file is more than schema column number.actual number: 26, schema column number: 25; line delimiter: [
], column separator: [ ], result values:
报错信息如上,解决如下
默认的读取是以csv进行,在行列值分割时候导致分割失败,数据插入失败,转换为以json方式读取可以避免问题出现,另外官方文档里面也有一些参数可以优化
map.put("doris.sink.properties.format","json");// http-outgoing-5 >> read_json_by_line: true
map.put("doris.sink.batch.size","5000");