会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
xiaoxiao-
博客园
首页
新随笔
联系
订阅
管理
MapReduce数据倾斜问题解决方法
问题分析:
单个reduce可能存在数据量过多导致数据倾斜
解决办法:
1、对数据的key加上随机前缀,让他们的hash值发生变化,分布一些到其他reduce里面去
2、适当增加reduce个数
posted @
2022-08-28 10:59
~小小~
阅读(
66
) 评论(
0
)
收藏
举报
刷新页面
返回顶部
公告