【hadoop】DataNode,NameNode,JobTracker,TaskTracker用jps查看无法启动解决办法

【hadoop】DataNode,NameNode,JobTracker,TaskTracker用jps查看无法启动解决办法

http://blog.csdn.net/lawrencesgj/article/details/8292780

最近配了一个单机版的hadoop1.0.4,参考官方网址:http://hadoop.apache.org/docs/r1.0.4/single_node_setup.html

配完后使用jps查看,发现总是有一些没有启动,非常郁闷,在多番研究后发现有两个原因,一个是在/tmp目录下有以前使用2.02版本留下的文件没有删除,二个是因为端口被占用了

解决方法:

一.删除/tmp下的所有文件

[html] view plain copy
 
  1. [root@localhost hadoop]# su -  
  2. [root@localhost ~]# cd /tmp/  
  3. [root@localhost tmp]# ls  
  4. hadoop-shen                        hsperfdata_shen  
  5. hadoop-shen-datanode.pid           Jetty_0_0_0_0_50030_job____yn7qmk  
  6. hadoop-shen-jobtracker.pid         Jetty_0_0_0_0_50070_hdfs____w2cu08  
  7. hadoop-shen-namenode.pid           Jetty_0_0_0_0_50075_datanode____hwtdwq  
  8. hadoop-shen-secondarynamenode.pid  Jetty_0_0_0_0_50090_secondary____y6aanv  
  9. hadoop-shen-tasktracker.pid  
  10. [root@localhost tmp]# rm -rf *  


二.对占用的端口进行释放

[plain] view plain copy
 
  1. [shen@localhost hadoop]$ lsof -i:9000  
  2. [shen@localhost hadoop]$ lsof -i:50070  
  3. [shen@localhost hadoop]$ lsof -i:50030  
  4. [shen@localhost hadoop]$ lsof -i:50075  
  5. [shen@localhost hadoop]$ lsof -i:50060  
  6. COMMAND  PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME  
  7. java    4280 shen   79u  IPv6  51108      0t0  TCP *:50060 (LISTEN)  
  8. [shen@localhost hadoop]$ kill 4280  
  9. [shen@localhost hadoop]$ lsof -i:50020  
  10. [shen@localhost hadoop]$ lsof -i:50010  

如上图,就是因为50060端口被占用,所以无法启动TaskTracker,kill后一切正常
 
[plain] view plain copy
 
  1. [shen@localhost hadoop]$ jps  
  2. 13510 DataNode  
  3. 13656 SecondaryNameNode  
  4. 13918 TaskTracker  
  5. 13750 JobTracker  
  6. 13362 NameNode  
  7. 13994 Jps  

看到这个这是无比激动啊!
 
附端口说明:

默认端口    设置位置                                                                                                 描述信息
9000          namenode                                                                                               交互端口
8020          namenode                                                                                               RPC交互端口
8021          JT RPC                                                                                                   交互端口
50030        mapred.job.tracker.http.address JobTracker administrative web GUI     JOBTRACKER的HTTP服务器和端口
50070        dfs.http.address NameNode administrative web GUI                              NAMENODE的HTTP服务器和端口
50010        dfs.datanode.address DataNode control port                                          DATANODE控制端口,主要用于DATANODE初始化时向NAMENODE提出注册和应答请求
50020        dfs.datanode.ipc.address DataNode IPC port, used for block transfer    DATANODE的RPC服务器地址和端口
50060        mapred.task.tracker.http.address Per TaskTracker web interface           TASKTRACKER的HTTP服务器和端口
50075        dfs.datanode.http.address Per DataNode web interface                          DATANODE的HTTP服务器和端口
50090        dfs.secondary.http.address Per secondary NameNode web interface     辅助DATANODE的HTTP服务器和端口
 

三.对namenode进行格式化

如果有修改过namenode dir 位置,需要确保位置不存在,并对/tmp目录下文件进行删除,不然会总是Format abort
 
 
参考网站:
 
 
 
======================================================================

首先了解一下内容,DataNode,NameNode,JobTracker,TaskTracker各个端口号 
Hadoop的常用WEB端口 
Hadoop对外提供了可供访问的http server,开放了很多端口,下面介绍常用的几个端口: 
50070端口 
查看NameNode状态; 
该端口的定义位于core-default.xml中,可以在core-site.xml中修改; 
如果通过该端口看着这个页面,以为着NameNode节点是存活的。 
50075端口 
查看DataNode; 
该地址和端口的定义位于hdfs-default.xml中,可以在hdfs-site.xml中修改。 
50090端口 
查看SecondaryNameNode。 
50030端口 
查看JobTracker状态的; 
该端口定义在mapred-default.xml中,可以在mapred-site.xml中修改。 
50060端口 
查看TaskTracker 
该端口定义位于mapred-default.xml,可以在mapred-site.xml中修改。

其次,用一下命令解决:

root@ubuntu:~# lsof -i:50090
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    16073 root   52u  IPv6  74371      0t0  TCP *:50090 (LISTEN)
root@ubuntu:~# kill -9 16073
  • 1
  • 2
  • 3
  • 4
  • 1
  • 2
  • 3
  • 4

这样就kill掉了这个进程,端口占用问题解决了。重新start-all.sh,jps后就有DataNode,NameNode,JobTracker,TaskTracker

posted on 2017-03-01 14:20  小西红柿  阅读(481)  评论(0)    收藏  举报

导航