doris踩坑csv格式分割问题

简单记录一下问题和解决方法
doris,spark-doirs-connector
Reason: actual column number in csv file is  more than  schema column number.actual number: 26, schema column number: 25; line delimiter: [
], column separator: [	], result values:

报错信息如上,解决如下
默认的读取是以csv进行,在行列值分割时候导致分割失败,数据插入失败,转换为以json方式读取可以避免问题出现,另外官方文档里面也有一些参数可以优化
        map.put("doris.sink.properties.format","json");//   http-outgoing-5 >> read_json_by_line: true
        map.put("doris.sink.batch.size","5000");

posted @ 2025-01-09 17:54  小人物LOWER  阅读(251)  评论(0)    收藏  举报