摘要: hdfs写流程 客户端初始化filesystem对象 调用create方法 创建新文件 向namenode申请写文件 namenode会检查权限和路径 没问题之后返回输入流对象dfsoutputStream 客户端对文件进行切块 128m一块 客户端向namenode申请写第一块 namenode根 阅读全文
posted @ 2021-02-25 16:18 唐松林 阅读(52) 评论(0) 推荐(0)
摘要: 最近想整理一下Hadoop阶段的知识点 发现MapReduce的运行流程模模糊糊的 网上查的也都写的不全 打算自己整理一下 方便以后看 将写好的MapReduce程序打包 放到集群上 提交任务之后,jobtracker首先会检查输出路径是否存在和输入文件是否存在 不存在会报错 这里解释一下jobtr 阅读全文
posted @ 2021-02-25 15:20 唐松林 阅读(163) 评论(0) 推荐(0)