随笔分类 -  Spark

摘要:map是对每个元素操作, mapPartitions是对其中的每个partition操作 mapPartitionsWithIndex : 把每个partition中的分区号和对应的值拿出来, 看源码 val func = (index: Int, iter: Iterator[(Int)]) => 阅读全文
posted @ 2018-11-09 11:42 马小纪 阅读(151) 评论(0) 推荐(0)
摘要:零:准备 JDK https://download.csdn.net/download/cand_yh/10375789 CDH-5.8.0-1.cdh5.8.0.p0.42-el6.parcel http://archive.cloudera.com/cdh5/parcels/5.8.0/CDH- 阅读全文
posted @ 2018-08-14 09:57 马小纪 阅读(315) 评论(0) 推荐(0)
只有注册用户登录后才能阅读该文。
posted @ 2018-07-27 09:36 马小纪 阅读(412) 评论(0) 推荐(2)