摘要: 前言 上一篇我们讲解了Hadoop单节点的安装,并且已经通过VMware安装了一台CentOS 6.8的Linux系统,咱们本篇的目标就是要配置一个真正的完全分布式的Hadoop集群,闲言少叙,进入本篇的正题。 技术准备 VMware虚拟机、CentOS 6.8 64 bit 安装流程 我们先来回顾 阅读全文
posted @ 2017-12-20 19:07 朝阳的向日葵 阅读(407) 评论(0) 推荐(0)
摘要: 26 集群使用初步 HDFS的设计思路 l 设计思想 分而治之:将大文件、大批量文件,分布式存放在大量服务器上,以便于采取分而治之的方式对海量数据进行运算分析; l 在大数据系统中作用: 为各类分布式运算框架(如:mapreduce,spark,tez,……)提供数据存储服务 l 重点概念:文件切块 阅读全文
posted @ 2017-12-20 19:04 朝阳的向日葵 阅读(485) 评论(0) 推荐(0)
摘要: 首先运行bin/start-all.sh发现namenode没有启动 只有它们 9428 DataNode 9712 JobTracker 9626 SecondaryNameNode 9983 Jps 9915 TaskTracker 遇到问题要学会翻看日志 cd /usr/local/hadoo 阅读全文
posted @ 2017-12-20 18:59 朝阳的向日葵 阅读(2376) 评论(0) 推荐(0)
摘要: 端口 用途 9000 fs.defaultFS,如:hdfs://172.25.40.171:9000 9001 dfs.namenode.rpc-address,DataNode会连接这个端口 50070 dfs.namenode.http-address 50470 dfs.namenode.h 阅读全文
posted @ 2017-12-20 18:57 朝阳的向日葵 阅读(17841) 评论(0) 推荐(2)