spark中的文件读取与存储
摘要:一、saveAsTextFile(path:String) 把RDD保存到hdfs中。 二、reparation(numPartitions:Int) 可以增加或减少此RDD的并行级别 在内部 它使用shuffle重新分发数据。 //首先查看这个RDD有多少分区 scala> allscores.p
阅读全文
posted @ 2021-03-11 16:50
posted @ 2021-03-11 16:50
posted @ 2021-03-08 15:48
posted @ 2021-03-02 17:12
posted @ 2021-03-01 21:29
posted @ 2021-03-01 20:58