摘要: 一、以Wordcount为例来分析1、Wordcountval lines = sc.textFile()val words = lines.flatMap(line => line.split(" "))val pairs = words.map(word => (word, 1))val counts = pairs.reduceByKey(_ + _)counts.foreach(count... 阅读全文
posted @ 2019-07-19 14:15 米兰的小铁將 阅读(316) 评论(0) 推荐(0)
摘要: 一、Work原理 1、图解 Worker启动Driver的一个基本原理,就是Worker内部会启动一个线程,这个线程可以理解为,就是DriverRunner,然后DriverRunner就会去负责启动Driver进程, 并在之后对Driver进程进行管理; Worker启动Executor,其实和D 阅读全文
posted @ 2019-07-19 11:15 米兰的小铁將 阅读(413) 评论(0) 推荐(0)