摘要: 一、java.io包支持。java的IO流有输入、输出两种,每种输入、输出流又可分为字节流、字符流两大类,字节流以字节为单位处理IO操作,字符流以字符为单位处理IO操作 JDK 1.4以后有java.nio包,新IO,提供了全新的API,支持更高效的IO操作 二、File类 1、java.io包下代 阅读全文
posted @ 2016-10-18 14:43 码以致用 阅读(404) 评论(0) 推荐(0)
摘要: 一、解压hadoop src包到workspace目录。为加快下载jar包的速度,在eclipse的maven设置里将配置文件的路径设置正确,然后配置maven的settings.xml: <mirrors> <mirror> <id>nexus-maven</id> <mirrorOf>*</mi 阅读全文
posted @ 2016-09-30 11:21 码以致用 阅读(610) 评论(0) 推荐(0)
摘要: 今天下午刚刚搭建了一个高可用hadoop集群,整理如下,希望大家能够喜欢。 namenode HA:得有两个节点,构成一个namenode HA集群 namenode Federation:可以有多个HA集群,分管不同的数据 至少得有4个节点,才能满足要求 节点 NN JournalNode DN 阅读全文
posted @ 2016-09-24 18:08 码以致用 阅读(801) 评论(0) 推荐(0)
摘要: tar -zxvf pig-0.16.0.tar.gz -C ~ tar -zxvf pig-0.16.0.tar.gz -C ~ vi ~/.bash_profile export PIG_HOME=/home/hadoop/pig-0.16.0 export PIG_CLASSPATH=${HA 阅读全文
posted @ 2016-09-23 15:48 码以致用 阅读(448) 评论(0) 推荐(0)
摘要: tar -zxvf zookeeper-3.4.6.tar.gz -C /home/hadoop/ vi ~/.bash_profile vi ~/.bash_profile export ZOOKEEPER_HOME=/home/hadoop/zookeeper-3.4.6 export PATH 阅读全文
posted @ 2016-09-23 15:47 码以致用 阅读(290) 评论(0) 推荐(0)
摘要: [hadoop@Hmaster install]$ tar -zxvf hbase-1.2.1-bin.tar.gz -C ~ [hadoop@Hmaster install]$vi ~/.bash_profile [hadoop@Hmaster install]$vi ~/.bash_profil 阅读全文
posted @ 2016-09-23 15:46 码以致用 阅读(606) 评论(0) 推荐(0)
摘要: 三台机器: Hmaster 172.168.2.3、Hslave1 172.168.2.4、Hslave2 172.168.2.6 JDK:1.8.49 OS:red hat 5.4 64 (由于后期发现有一些由于系统lib库版本太低、python版本太低、java运行环境版本太低等问题,降低了搭建 阅读全文
posted @ 2016-09-23 15:42 码以致用 阅读(336) 评论(0) 推荐(0)
摘要: 已经自学了好几个月的大数据了,第一个月里自己通过看书、看视频、网上查资料也把hadoop(1.x、2.x)、spark单机、伪分布式、集群都部署了一遍,但经历短暂的兴奋后,还是觉得不得门而入。 只有深入大数据开发才能逐步掌握大数据。而首先要搭开发环境,对于一个像我这样之前只做过plsql开发的人来说 阅读全文
posted @ 2016-09-09 11:09 码以致用 阅读(1865) 评论(0) 推荐(0)