摘要:1、 在数据采集的时候,就将小文件或小批数据合成大文件再上传 HDFS2、 在业务处理之前,在 HDFS 上使用 MapReduce 程序对小文件进行合并3、 在 MapReduce 处理时,可采用 CombineFileInputFormat 提高效率 阅读全文
posted @ 2020-01-06 14:26 六成2020的猿生 阅读(55) 评论(0) 推荐(0) 编辑