随笔分类 -  hadoop

Blogs about hadoop,Contains hadoop,MR...
摘要:搭建jdk环境(jdk1.8.0_121) 下载hadoop 修改hadoop的配置文件 hadoop2.7.3 路径: $HADOOP_HOME/etc/hadoop/ 1. hadoop env.sh ​ 2. core site.xml 3. hdfs site.xml 4. mapred_s 阅读全文
posted @ 2018-11-29 11:14 枫子_dan 阅读(128) 评论(0) 推荐(0)
摘要:配置 修改$HADOOP_HOME/etc/hadoop/hadoop env.sh web页面查看 | IP | 访问地址 | | | | | 192.168.20.10 | http://dev01:50070/jmx | | 192.168.20.11 | http://dev02:50075 阅读全文
posted @ 2018-11-28 18:09 枫子_dan 阅读(5598) 评论(0) 推荐(0)
摘要:磁盘容量 1. hdfs fsck /path/to/dicrectory 2. hdfs dfs du s /path/to/dicrectory 3. hdfs dfs du / 查看文件和目录大小 4. hdfs dfs count q /usr 会输出8列 | 命名空间的quota(限制文件 阅读全文
posted @ 2018-11-28 16:47 枫子_dan 阅读(134) 评论(0) 推荐(0)
摘要:前期服务器配置 1. 修改/etc/hosts文件,添加以下信息(如果正常IP) 119.23.163.113 master 120.79.116.198 slave1 120.79.116.23 slave2 如果安全组内的IP,通过ip a方式查询内部IP并添加到/etc/hosts; 2. 确 阅读全文
posted @ 2018-11-28 16:42 枫子_dan 阅读(871) 评论(0) 推荐(0)
摘要:基本安装步骤 安装包下载 从 "大数据组件下载地址" 下载以下组件安装包 1. hadoop 2.6.0 cdh5.6.0.tar.gz 2. hbase 1.0.0 cdh5.6.0.tar.gz 3. zookeeper 3.4.5 cdh5.6.0.tar.gz 从 "java下载地址" 下载 阅读全文
posted @ 2018-11-28 16:39 枫子_dan 阅读(383) 评论(0) 推荐(0)