摘要: inputFormate分块 小文件切割 CombineTextInputFormat 读取文件 map阶段解析成key/value(kv键值储存) 在环形缓冲区(100mb) spill阶段环形缓冲区满80%溢出写入到本地磁盘(快速排序) 然后归并排序合并成一个文件(指针做对比放谁小谁先放到里面) 阅读全文
posted @ 2022-11-13 22:00 huang5209 阅读(8) 评论(0) 推荐(0)
摘要: 滑动机制 为什么不直接传给datanode的原因 并发的存储,最大的使用了io流 为什么不直接传对整个io负担都特别大 中断后如何处理 读流程 namenode重要的块 在整个集群中性信息量操作的统计 hdfs dfsadmin -safemode enter 进入安全模式 设置文件数 hdfs d 阅读全文
posted @ 2022-11-13 20:44 huang5209 阅读(26) 评论(0) 推荐(0)