会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
业精于勤,行成于思
但行好事,莫问前程。生活本无法定,机会偶然来临。
博客园
首页
新随笔
联系
订阅
管理
2017年12月20日
大数据学习(5)MapReduce切片(Split)和分区(Partitioner)
摘要: MapReduce中,分片、分区、排序和分组(Group)的关系图: 分片大小 对于HDFS中存储的一个文件,要进行Map处理前,需要将它切分成多个块,才能分配给不同的MapTask去执行。 分片的数量等于启动的MapTask的数量。默认情况下,分片的大小就是HDFS的blockSize。 Map阶
阅读全文
posted @ 2017-12-20 00:43 at0x7c00
阅读(11890)
评论(2)
推荐(3)
公告
CSDN
-
ITeye
-
GitHub
|
HuQiao's Blog
| 业余经营:
IT快报