Windows下配置eclipse访问hadoop文件系统

  1. 启动hadoop服务
    • 首先需要启动你虚拟机(master)安装的hadoop服务
    • 然后可在浏览器上(宿主机)输入安装hadoop的虚拟机ip:50070可以网页的形式查看你的hadoop服务
  2. 配置windows环境
    • jdk安装并配置(jdk还没配置的小可爱自行解决哦)
    • 安装eclipse(注意eclipse版本与jdk版本的兼容)
      • 官网下自行下载
      • 在eclipse安装目录下建一个文件夹:workspace-hadoop,作为eclipse的工作空间
      • Hadoop-Eclipse-plugin-2.7.3.jar复制到eclipse的相应的目录plugins
    • 在windows系统中安装Hadoop(注意hadoop版本与jdk版本的兼容)
      • 将hadoop安装包解压
      • 配置环境变量:HADOOP_HOME=hadoop安装位置(如:HADOOP_HOME=d:\hadoop2.7.3)
        给path环境变量新加内容:path=%HADOOP_HOME%\bin;
      • 修改hadoop安装目录下etc\hadoop\hadoop-env.cmd文件
        set JAVA_HOME=jdk安装目录(大家就复制自己的系统变量JAVA_HOME值就可以)
        这里注意如果目录中存在空格,则需要特殊处理(如将Program File改为Progra~1)
      • 在命令行提示符输入:hadoop version检查安装是否成功
    • 复制windows支持文件winutils.exe和hadoop.dll
      winutils.exe复制到hadoop安装目录的bin目录中
      hadoop.dll复制到c:/windows/system32目录中
    • 启动eclipse
      • 更改工作目录为workspace-hadoop
        依次点击File->Switch Workspace->Other后选定workspace-hadoop目录
      • 设置Hadoop
         依次点击windows->Preferences->Hadoop Map/Reduce<br>设置为Hadoop的安装目录位置
         依次点击windows->Perspective->open Perspective->Other->Map/Reduce
         依次点击windows->Show View->other->MapReduce Tools->Map/Reduce Locations
         点击蓝色小象图标,创建Hadoop locations
         Host:Map/Reduce master的host:master的ip   端口:18040
         DFS master的Host:master的ip   端口:9000
        
  3. 创建项目导入jar包

    项目名右键依次点击Build Path->Configuer Build Path->Libraries->Add Library->User Library->next->User Libraries->New
    新建commom和hdfs两个library,选中点击Add Jars添加jar包

     common添加hadoop安装目录下/share/hadoop/下的common目录及其lib子目录下的所有jar包
     hdfs添加hadoop安装目录下/share/hadoop/下的hdfs目录及其lib子目录下的所有jar包
    
posted @ 2021-11-21 23:46  边缘之地  阅读(302)  评论(0)    收藏  举报