130学习总结

实验 3 Spark 和 Hadoop 的安装

一、实验目的

（1）掌握在 Linux 虚拟机中安装 Hadoop 和 Spark 的方法； （2）熟悉 HDFS 的基本使用方法； （3）掌握使用 Spark 访问本地文件和 HDFS 文件的方法。

二、实验平台

操作系统：Ubuntu16.04； Spark 版本：2.1.0； Hadoop 版本：2.7.1。

三、实验内容和要求

1．安装 Hadoop 和 Spark  

2．HDFS 常用操作　　

（1） 启动 Hadoop，在 HDFS 中创建用户目录“/user/hadoop”；

$cd /usr/local/hadoop

$./sbin/start-dfs.sh #启动 HDFS

$./bin/hdfs dfs -mkdir -p /user/hadoop #在 HDFS 中创建用户目录/user/hadoop 

2） 在 Linux 系统的本地文件系统的“/home/hadoop”目录下新建一个文本文件 test.txt，并在该文件中随便输入一些内容，然后上传到 HDFS 的“/user/hadoop” 目录下；

$cd /home/hadoop

$vim test.txt #在 test.txt 中随便输入一些内容，并保存退出 vim 编辑器

$cd /usr/local/hadoop

$./bin/hdfs dfs -put /home/hadoop/test.txt /user/hadoop 

3） 把 HDFS 中“/user/hadoop”目录下的 test.txt 文件，下载到 Linux 系统的本地文 件系统中的“/home/hadoop/下载”目录下；

$ cd /usr/local/hadoop

$./bin/hdfs dfs -get /user/hadoop/test.txt /home/hadoop/下载

（4） 将HDFS中“/user/hadoop”目录下的test.txt文件的内容输出到终端中进行显示；

$ cd /usr/local/hadoop

$./bin/hdfs dfs -cat /user/hadoop/test.txt 

（5） 在 HDFS 中的“/user/hadoop”目录下，创建子目录 input，把 HDFS 中 “/user/hadoop”目录下的 test.txt 文件，复制到“/user/hadoop/input”目录下；

$ cd /usr/local/hadoop

$./bin/hdfs dfs -mkdir /user/hadoop/input

$./bin/hdfs dfs -cp /user/hadoop/test.txt /user/hadoop/input  

（6） 删除HDFS中“/user/hadoop”目录下的test.txt文件，删除HDFS中“/user/hadoop” 目录下的 input 子目录及其子目录下的所有内容。

$ cd /usr/local/hadoop

$./bin/hdfs dfs -rm /user/hadoop/test.txt

$./bin/hdfs dfs -rm -r /user/hadoop/input  

3. Spark 读取文件系统的数据

（1）在 spark-shell 中读取 Linux 系统本地文件“/home/hadoop/test.txt”，然后统计出文 件的行数；

$ cd /usr/local/spark

$./bin/spark-shell scala>val textFile=sc.textFile("file:///home/hadoop/test.txt") scala>textFile.count() 

（2）在 spark-shell 中读取 HDFS 系统文件“/user/hadoop/test.txt”（如果该文件不存在， 请先创建），然后，统计出文件的行数；

scala>val textFile=sc.textFile("hdfs://localhost:9000/user/hadoop/test.txt") scala>textFile.count()  

（3）编写独立应用程序，读取 HDFS 系统文件“/user/hadoop/test.txt”（如果该文件不存在， 请先创建），然后，统计出文件的行数；通过 sbt 工具将整个应用程序编译打包成 JAR 包， 并将生成的 JAR 包通过 spark-submit 提交到 Spark 中运行命令。

$ cd ~ 

$ mkdir ./sparkapp 

$ mkdir -p ./sparkapp/src/main/scala 

 

 cd ~

$ vim ./sparkapp/src/main/scala/SimpleApp.scala 

 

/* SimpleApp.scala */

import org.apache.spark.SparkContext

import org.apache.spark.SparkContext._

import org.apache.spark.SparkConf

object SimpleApp { def main(args: Array[String]) { 

val logFile = " hdfs://localhost:9000/user/hadoop/test.txt" val conf = new SparkConf().setAppName("Simple Application") val sc = new SparkContext(conf) val logData = sc.textFile(logFile, 2) val num = logData.count() printf("The num of this file is %d", num) } } 

 

cd ~ $ vim ./sparkapp/simple.sbt 

 

name := "Simple Project" version := "1.0" scalaVersion := "2.11.8" libraryDependencies += "org.apache.spark" %% "spark-core" % "2.1.0" 

 

$ cd ~/sparkapp $ find .  

 

. ./src ./src/main ./src/main/scala ./src/main/scala/SimpleApp.scala ./simple.sbt  　　

cd ~/sparkapp # $ /usr/local/sbt/sbt package

 

$ /usr/local/sbt/sbt package OpenJDK 64-Bit Server VM warning: ignoring option MaxPermSize=256M; support was removed in 8.0 [info] Set current project to Simple Project (in build file:/home/hadoop/sparkapp/) …… [info] Done packaging. [success] Total time: 2 s, completed 2024-1-30 23:57:29 

$ /usr/local/spark/bin/spark-submit --class "SimpleApp" ~/sparkapp/target/scala-2.11/simple-project_2.11-1.0.jar