本文环境是在Ubuntu10.04环境下运行的。

  在Linux上安装Hadoop之前,首先安装两个程序:

  1、JDK1.6(或更高版本)。Hadoop是用Java编写的程序,Hadoop编译及MapReduce的运行都需要使用JDK。因此在安装Hadoop之前,必须安装JDK1.6或更高版本。

  2、SSH( Secure Shell 安全外壳协议)。SSH 为建立在应用层传输层基础上的安全协议。SSH 是目前较可靠,专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息泄露问题。Hadoop需要SSH来启动Slave(从机)列表中各台主机的守护进程,推荐安装OpenSSH。

  (1)下载并安装JDK1.6

  进入http://www.oracle.com/technetwork/java/javasebusiness/downloads/java-archive-downloads-javase6-419409.html#jdk-6u45-oth-JPR页面下载JDK1.6 linux版本(根据自己的OS选择32为或64位版本的),如 jdk-6u45-linux-i586.bin(32位)或者jdk-6u45-linux-x64.bin(64位)。

   2)安装并配置JDk环境变量

    进入 jdk-6u45-linux-i586.bin的目录输入以下命令进行安装:

    sudo chmod u+x jdk-6u45-linux-i586.bin                           //修改权限

    sudo -s ./jdk-6u45-linux-i586.bin                                     //安装

    安装完毕后就可以配置环境变量了。

    环境变量配置文件为/etc/profile,输入一下命令打开profile文件。在文件的末尾输入一下内容。

    #set JAVA Environment

    exprt JAVA_HOME=/usr/local/jdk1.6.0_45                                        //设置JDK的JAVA_HOME,为JDK安装的根目录                  

    export CLASSPATH=".:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib"   //设置JDK的CLASSPATH

    export PATH="$JAVA_HOME/bin:$JRE_HOME/bin:$PATH"                      //设置JDK的PATH路径

    环境变量配置好以后,系统就可以找到JDK了。

    输入一下命令:java -version 会出现如下信息:

    

    说明JDK已经安装成功。

    如果没有出现上述情景,说明当前安装的JDK并未设置成Ubuntu系统默认的JDK,还要手动将安装的JDK设置成系统默认的JDK。具体操作如下:

    在终端依次输入如下命令:

    sudo update-alternatives --install /usr/bin/java java /usr/local/jdk1.6.0_45/bin/java 300

    sudo update-alternatives --install /usr/bin/javac javac /usr/local/jdk1.6.0_45/bin/javac 300

    sudo update-alternatives --config java

  接下来再次输入java -version命令 就可以看到JDK的版本信息了。

  2、配置SSH免密码登陆

    首先安装ssh,输入命令:

    sudo apt-get install ssh

    然后,输入一下命令:

    ssh-keygen -t dsa -P ' ' -f ~/ .ssh/id_dsa

    ssh-keygen代表生成密钥:-t表示生成指定的密钥类型;

    dsa是dsa密钥认证的意思,即密钥类型:用于提供密语;-f 生成指定的密钥文件; ~/ 表示在当前用户文件夹下。

    这个命令会在.ssh文件夹下创建id_dsa及id_dsa.pub两个文件,这是SSH的一对私钥和公钥,类似于钥匙和锁,把id_dsa.pub(公钥)追加到授权的key中去。

    输入命令:

    cat ~/ .ssh/id_dsa.pub >> ~/ .ssh/authorized_keys

    这个命令时把公钥加到用于认证的公钥文件中,这里的authorized_keys是用于认证的公钥文件。到此为止,免密码登陆本机已配置完毕。

    输入一下命令:

    ssh -version

    显示如下结果:

    

    输入命令:

    ssh localhost

    会有如下显示:

      

  这说明已经安装成功,第一次登陆时会询问是否继续链接,输入yes即可进入。

  实际上,在Hadoop的安装过程中,是否免密码登陆是无关紧要,但是如果不配置免密码登陆,每次启动Hadoop都需要输入密码以登陆到每台机器的DataNode上,考虑到一般的Hadoop集群有成败上千台机器,因此都会配置SSH的免密码登陆。

3、安装并运行Hadoop

  进入Hadoop官网下载地址:http://mirrors.cnnic.cn/apache/hadoop/common/hadoop-1.2.1/,下载Hadoop最新版,并将其解压。

  hadoop的配置详解请请参照上一篇笔记 http://www.cnblogs.com/bester/p/3279368.html

  进入conf文件夹,修改配置文件。

  (1)hadoop-env.sh:

  

  指定JDK的安装位置,将红圈的部分修改为:export JAVA_HOME=/usr/lib/jvm/jdk1.6.0_45  并去掉 #

  (2)conf/core-site.xml 

  <configuration>
       <property>
             <name>fs.default.name</name>
             <value>hdfs://localhost:9000</value>
       </property>
       <property>
            <name>hadoop.tmp.dir</name>
           <value>/home/hadoop/hadoop_home/var</value>
      </property>
  </configuration>

  fs.default.name:NameNode的URI。hdfs://主机名:端口/
  hadoop.tmp.dir:Hadoop的默认临时路径,这个最好配置,如果在新增节点或者其他情况下莫名其妙的DataNode启动不了,就删除此文件中的tmp目录即可。

  不过如果删除了NameNode机器的此目录,那么就需要重新执行NameNode格式化的命令。

(3)conf/hdfs-site.xml

<configuration>
 <property>
      <name>dfs.name.dir</name>            //指定name镜像文件存放目录,如不指定则默认为core-site中配置的tmp目录
      <value>/bobo/Software/hadoop/hdfs/name</value> 
   </property>
 <property>
      <name>dfs.data.dir</name>            //数据存放的目录,如果不写默认为core-site中配置的tmp目录
      <value>/bobo/Software/hadoop/hdfs/data</value>  
 </property>
   <property>
      <name>dfs.replication</name>
    <value>1</value>
  </property>
</configruation>

dfs.name.dir是NameNode持久存储名字空间及事务日志的本地文件系统路径。当这个值是一个逗号分割的目录列表时,nametable数据将会被复制到所有目录中做冗余备份。

dfs.data.dir是DataNode存放块数据的本地文件系统路径,逗号分割的列表。当这个值是逗号分割的目录列表时,数据将被存储在所有目录下,通常分布在不同设备上。

dfs.replication是数据需要备份的数量,默认是3,单机版需将此改为1,如果此数大于集群的机器数会出错。

 (4)conf/mapred-site.xml

  <configuration>
       <property>
           <name>mapred.job.tracker</name>
           <value>localhost:9001</value>
       </property>
  </configuration>

    mapred.job.trackerJobTracker的主机(或者IP)和端口。主机:端口。

  在启动Hadoop之前,需要格式化Hadoop的文件系统HDFS。进入Hadoop文件夹,输入命令:
  bin/hadoop namenode -format //注意 namenode 必须小写 否则 会有异常出现
  格式化文件系统,接下来启动Hadoop,输入命令:
  bin/start-all.sh
  最后验证Hadoop是否安装成功。
  打开游览器,输入一下网址:
  http://localhost:50070/(MapReduce的Web页面)
  
  http://localhost:50030/(HDFS的Web页面)

    说明已经安装成功了。

    下一节将介绍HDFS文件系统。

 

   作者:Bester

   出处:http://www.cnblogs.com/bester/p/3279884.html

posted on 2013-08-25 17:10  Bester  阅读(1606)  评论(0编辑  收藏  举报