随笔分类 -  大数据

摘要:一般namenode只格式化一次,重新格式化不仅会导致之前的数据都不可用,而且datanode也会无法启动。在datanode日志中会有类似如下的报错信息: java.io.IOException: Incompatible clusterIDs in /tmp/hadoop-root/dfs/da 阅读全文
posted @ 2017-05-21 12:20 成宇佳 阅读(2265) 评论(0) 推荐(0) 编辑
摘要:上篇:用Docker在一台笔记本电脑上搭建一个具有10个节点7种角色的Hadoop集群(上)-快速上手Docker 上篇介绍了快速上手Docker部分,下面接着介绍搭建Hadoop集群部分。 六、搭建Hadoop伪分布模式 我们先用前面创建的这个容器来搭建Hadoop伪分布模式做测试,测试成功后再搭 阅读全文
posted @ 2017-05-16 11:37 成宇佳 阅读(4831) 评论(9) 推荐(7) 编辑
摘要:如果想在一台电脑上搭建一个多节点的Hadoop集群,传统的方式是使用多个虚拟机。但这种方式占用的资源比较多,一台笔记本能同时运行的虚拟机的数量是很有限的。这个时候我们可以使用Docker。Docker可以看做是一种轻量级的虚拟机,占用资源少,用起来和传统的虚拟机很像,使用的时候可以类比VMware或 阅读全文
posted @ 2017-05-15 10:54 成宇佳 阅读(5768) 评论(10) 推荐(5) 编辑