会员
周边
新闻
博问
融资
云市场
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
YL10000
生命不息,学习不止
博客园
::
首页
::
新随笔
::
联系
::
订阅
::
管理
公告
2017年2月28日
spark性能调优05-troubleshooting处理
摘要: 1、调节reduce端缓冲区大小避免OOM异常 1.1 为什么要调节reduce端缓冲区大小 对于map端不断产生的数据,reduce端会不断拉取一部分数据放入到缓冲区,进行聚合处理; 当map端数据特别大时,reduce端的task拉取数据是可能全部的缓冲区都满了,此时进行reduce聚合处理时创
阅读全文
posted @ 2017-02-28 17:52 YL10000
阅读(620)
评论(0)
推荐(0)
编辑