会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
肥仔佳文猪
博客园
首页
新随笔
联系
订阅
管理
2021年3月23日
数据倾斜常用解决办法
摘要: 数据倾斜是由于某个task被分配过多数据,而比其他task需要更多的执行时间(如几十倍,几百倍),导致其他task执行完进入漫长等待的一种现象。 数据倾斜只会发生在多对多或一对多的数据分发的过程中,如spakr的shuffle操作中,在MapReduce中的reduce阶段, 常见的算子类型为:jo
阅读全文
posted @ 2021-03-23 19:17 肥仔佳文猪
阅读(1148)
评论(0)
推荐(0)
公告