随笔分类 - hadoop
摘要:NameNode 可以说是HDFS中的一个进程 NameNode的功能 负责客户端请求(读写数据 请求 )的响应 NameNode存放文件与Block的映射关系 DataNode存放Block和DataNode的映射关系 保存文件的元数据信息 文件的归属 文件的权限 文件的大小和时间 Block信息
阅读全文
摘要:Hadoop 3.1.2 文件数据类型 文件有一个stat文件 元数据信息-->表述文件的属性 文件有一个vim命令 查看文件的数据信息 分类 元数据 File 文件名 Size 文件大小(字节) Blocks 文件使用的数据块总数 IO Block 数据块的大小 regular file 文件类型
阅读全文
摘要:1. 启动zookeeper 没有问题 2. 上传hadoop安装包 解压,如图。 3. 节点功能分配 NameNode1 NameNode2 DataNode Zookeeper ZKFC JournalNode Node1 是 是 是 是 是 Node2 是 是 是 是 是 Node3 是 是
阅读全文
摘要:分布式文件系统架构 FS (File System) 文件系统是基于硬盘上的一个文件管理的工具 我们用户操作文件系统可以和硬盘解耦 DFS (Distributed File System) 分布式文件系统 将数据存放到多台电脑上存储 分布式文件系统有很多 HDFS(Hadoop Distribut
阅读全文
摘要:Hadoop及其历史 Hadoop进化史 Hadoop最早起源于Nutch Doug Cutting 2002年10月,Doug Cutting和Mike Cafarella创建了开源网页爬虫项目Nutch,Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着
阅读全文

浙公网安备 33010602011771号