摘要:
bypass运行机制的触发条件如下: 1)shuffle map task数量小于spark.shuffle.sort.bypassMergeThreshold=200参数的值。 2)不是map combine聚合的shuffle算子(比如reduceByKey有map combie) 总结: 阅读全文
posted @ 2024-01-23 23:09
椰糖
阅读(43)
评论(0)
推荐(0)
|
摘要:
bypass运行机制的触发条件如下: 1)shuffle map task数量小于spark.shuffle.sort.bypassMergeThreshold=200参数的值。 2)不是map combine聚合的shuffle算子(比如reduceByKey有map combie) 总结: 阅读全文
posted @ 2024-01-23 23:09
椰糖
阅读(43)
评论(0)
推荐(0)
|