摘要: 1、shuffle 的原理 在 spark 中,发生 shuffle 操作主要是以下几个算子:groupByKey、reduceByKey、 countByKey、join,等等。 (1)Shuffle 原理介绍: groupByKey,要把分布在集群各个节点上的数据中的同一个 key,对应的 va 阅读全文
posted @ 2020-10-12 16:41 guoyu1 阅读(430) 评论(0) 推荐(0)
摘要: https://mp.weixin.qq.com/s/NBF5IvkboC8wt_DhYaHhvA 我们这个世界,充满着千奇百怪的对象,更有趣的是对象与对象间是存在着互动,沟通,这样世界才变得美妙。那到底是怎样互动呢?靠什么才能互动呢?是的,接口。比如你和朋友一起喝茶聊天,我们暂且不管声带,耳膜这些 阅读全文
posted @ 2020-10-12 15:52 guoyu1 阅读(245) 评论(0) 推荐(0)
摘要: 策略,Strategy,古时也称“计”,为了达成某个目标的方案,目标不同,方案也随之更改。例如特工执行任务时总要准备好几套方案以应对突如其来的变化,A计划实施过程中情况突变导致预案无法继续实施,则马上更换为B计划,正所谓计划不如变化快,提前策划固然非常重要,而随机应变更是不可或缺,只有保证这种可变的 阅读全文
posted @ 2020-10-12 15:49 guoyu1 阅读(337) 评论(0) 推荐(0)