伪分布式HADOOP配置试验遇到若干问题的解决记录。

hadoop环境:CentOS6虚拟机, hadoop2.6

开发环境:Win7 Eclipse

第一步:

按照网络上通用步骤搭建好LINUX下的CentOS6+hadoop2.6,翻来覆去就那么几步,不再复述。输入shell指令:JPS,检查NODE信息正常,就认为HADOOP运行正常。

我参照的是该地址的文章配置环境的:

http://www.powerxing.com/install-hadoop-in-centos/

第二步:

给WIN7 环境里下的eclipse下载好hadoop插件,按网上指示做简单设置,可参照如下文章:其中需要设置Hadoop的home,将第一步中LINUX中下载得到的Hadoop,复制到WIN7中然后解压,再将Hadoop的HOME指向该目录。

http://www.open-open.com/lib/view/open1418191526714.html

 

问题一,新建好MapReduce工程以后,eclipse左侧的树一直刷新不出来,即IN文件夹;检测发现,Win7可以ping通虚拟机,可以telnet虚拟机的22端口(ssh ),但是不能telnet虚拟机的9000端口。

对应方法:修改LINIX中的etc/hosts中的地址映射,将127.0.0.1的地址改成WIN7分配给虚拟机的地址192.168.x.x,然后需要重启hadoop。

然后可以通过hostname -i看到IP地址变成“外网”地址了(192.168.x.x)。

 

下面都是在WIN7环境里的设置。

问题二,报一个类似于Null路径的异常,是因为没有设置环境变量HADOOP_HOME,即上面的解压出来的路径;添加一个PATH变量,指向HADOOP_HOME下面的bin文件夹。

问题三,如果WIN的用户名与LINIUX的用户名不一致,会报一个,路径无法找到的错。需要将WIN7和LINXU的登录用户名都修改为hadoop

问题四,报一个无法找到winutils.exe的错,下载一个叫hadoop-common-2.2.0-bin-master的压缩包,里面有winutils.exe,复制到hadoop目录下的bin文件夹中。

问题五,一个xxx.chkxxxx的错,原因是由于hadoop2.2之后的包里没有一个叫hadoop.dll东西。需要下载下来,复制到system32下面。需要版本一致,如果hadoop包是2.6的, hadoop.dllr也必须是2.6的

 

若干次尝试以后,终于不报错了。。。后面仔细研究代码。

根据报错信息在网上搜索解决方法时候,不能直接照搬,有时候有些解决方案非常复杂,若不能无法保证恢复原样,不要轻易尝试别人的方法,多想下为什么。

posted @ 2016-04-20 15:48  alan222  阅读(493)  评论(0)    收藏  举报