会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
未闻花
博客园
首页
新随笔
联系
订阅
管理
2017年4月30日
分布式文件系统:HDFS
摘要: 学习Hadoop,两个东西肯定是绕不过,MapReduce和HDFS,上一篇博客介绍了MapReduce的处理流程,这一篇博客就来学习一下HDFS。 HDFS是一个分布式的文件系统,就是将多台机器的存储当做一个文件系统来使用,因为在大数据的情景下,单机的存储量已经完全不够用了,所以采取分布式的方法来
阅读全文
posted @ 2017-04-30 10:30 未闻花
阅读(1084)
评论(0)
推荐(1)
2017年4月16日
MapReduce处理流程
摘要: MapReduce是Hadoop2.x的一个计算框架,利用分治的思想,将一个计算量很大的作业分给很多个任务,每个任务完成其中的一小部分,然后再将结果合并到一起。将任务分开处理的过程为map阶段,将每个小任务的结果合并到一起的过程为reduce阶段。下面先从宏观上介绍一下客户端提交一个作业时,Hado
阅读全文
posted @ 2017-04-16 17:13 未闻花
阅读(4640)
评论(0)
推荐(2)
公告