2020年5月26日
摘要: 核心思想 mapreduce的思想主要分为map和reduce map:拆分阶段,将复杂的任务拆分成并行的多个小任务(每个任务的执行过程一样) reduce:聚合阶段 map阶段处理好的数据交由reduce阶段组合。 mapreduce框架结构 完整的mapreduce包括三个部分 applicat 阅读全文
posted @ 2020-05-26 21:16 hatcher_h 阅读(106) 评论(0) 推荐(0)
  2020年5月25日
摘要: 一、 设计思路 分布式文件系统 二、设计目标 三 HDFS架构图 四、HDFS元数据管理 五、HDFS元数据合并 6、HDFS上传文件 7、HDFS文件读取 注意 八、JAVA API 阅读全文
posted @ 2020-05-25 16:57 hatcher_h 阅读(274) 评论(0) 推荐(0)
  2020年5月24日
摘要: hdfs基本特性 hdfs操作命令 hdfs高级命令 文件数量限制以及空间大小限制 安全模式 基准测试 阅读全文
posted @ 2020-05-24 15:52 hatcher_h 阅读(264) 评论(0) 推荐(0)
  2020年5月22日
摘要: apache版本 伪分布式 完全分布式 CDH版本 编译 编译环境 常见编译错误 CDH版本Zookeeper环境搭建 CDH版本Hadoop环境搭建 阅读全文
posted @ 2020-05-22 22:46 hatcher_h 阅读(410) 评论(0) 推荐(0)
  2020年5月21日
摘要: Hadoop发展历史 Hadoop版本 Hadoop 1.x Hadoop 2.x 2.x的架构模式 1、单机,主从节点都在一台服务器上 2、HDFS和yarn高可用 配置Hadoop 使用Hadoop 常用端口 阅读全文
posted @ 2020-05-21 20:16 hatcher_h 阅读(301) 评论(0) 推荐(0)
  2020年5月20日
摘要: 环境搭建 Zookeeper的架构模型 watch机制 Zookeeper的shell操作 Zookeeper的JavaAPI 阅读全文
posted @ 2020-05-20 17:26 hatcher_h 阅读(207) 评论(0) 推荐(0)
  2020年5月19日
摘要: 三台虚拟机无密码登录 同步时钟 安装JDK zoopkeeper 概念 主要作用 架构 主节点: 作用是维护数据一致性,负责处理用户的读写操作,维护数据一致性主要分配给从节点操作 从节点: 作用负责用户的读操作,并执行住节点的数据一致性操作。 角色 特性 阅读全文
posted @ 2020-05-19 22:50 hatcher_h 阅读(146) 评论(0) 推荐(0)
摘要: shell 文件传参 变量 if判断 for 循环 while 循环 case 函数 阅读全文
posted @ 2020-05-19 22:19 hatcher_h 阅读(124) 评论(0) 推荐(0)
  2020年5月18日
摘要: 虚拟机联网 Linux命令 1、查找 2、用户和用户组 3、文件权限 4、linux系统命令 5、主机名管理 6、修改ip或者mac 7、域名映射 8、网络监听 9、定时器 阅读全文
posted @ 2020-05-18 17:49 hatcher_h 阅读(332) 评论(0) 推荐(0)
  2020年5月17日
摘要: 概念 概念模型 maven仓库 坐标 常见命令 依赖范围 maven继承 依赖管理 排除依赖 聚合 阅读全文
posted @ 2020-05-17 15:14 hatcher_h 阅读(177) 评论(0) 推荐(0)