MapReduce数据倾斜问题解决方法

问题分析:

单个reduce可能存在数据量过多导致数据倾斜

解决办法:

1、对数据的key加上随机前缀,让他们的hash值发生变化,分布一些到其他reduce里面去

2、适当增加reduce个数

 

posted @ 2022-08-28 10:59  ~小小~  阅读(66)  评论(0)    收藏  举报