寒假学习5
厦门大学林子雨，赖永炫，陶继平 编著
《Spark 编程基础（Scala 版）》
教材配套
机房上机实验指南
实验 5 Spark SQL 编程初级实践
（版本号：2018 年 7 月 19 日版本）
（题目）
主讲教师：林子雨
厦门大学数据库实验室
二零一八年七月
目录
一、实验目的...................................................................................................................................1
二、实验平台...................................................................................................................................1
三、实验内容和要求.......................................................................................................................1
1．Spark SQL 基本操作..........................................................................................................1
2．编程实现将 RDD 转换为 DataFrame................................................................................2
3. 编程实现利用 DataFrame 读写 MySQL 的数据...............................................................2
四、实验报告...................................................................................................................................2
附录 1:任课教师介绍 ......................................................................................................................3
附录 2：课程教材介绍....................................................................................................................4
附录 3：高校大数据课程公共服务平台介绍................................................................................5
主讲教师：林子雨
http://www.cs.xmu.edu.cn/linziyu
第 1 页
厦门大学林子雨,赖永炫,陶继平 编著《Spark 编程基础（Scala 版）》 教材配套机房上机实验指南
实验 5 Spark SQL 编程初级实践
厦门大学林子雨,赖永炫,陶继平 编著
《Spark 编程基础（Scala 版）》
第 6 章 Spark SQL
教材配套机房上机实验指南
实验 5 Spark SQL 编程初级实践
（题目）
E-mail: ziyulin@xmu.edu.cn 个人主页：http://www.cs.xmu.edu.cn/linziyu
一、实验目的
（1）通过实验掌握 Spark SQL 的基本编程方法；
（2）熟悉 RDD 到 DataFrame 的转化方法；
（3）熟悉利用 Spark SQL 管理来自不同数据源的数据。
二、实验平台
操作系统： Ubuntu16.04
Spark 版本：2.1.0
数据库：MySQL
三、实验内容和要求
1．Spark SQL 基本操作
将下列 JSON 格式数据复制到 Linux 系统中，并保存命名为 employee.json。
{ "id":1 , "name":" Ella" , "age":36 }
{ "id":2, "name":"Bob","age":29 }
{ "id":3 , "name":"Jack","age":29 }
{ "id":4 , "name":"Jim","age":28 }
{ "id":4 , "name":"Jim","age":28 }
{ "id":5 , "name":"Damon" }
{ "id":5 , "name":"Damon" }
为 employee.json 创建 DataFrame，并写出 Scala 语句完成下列操作：
(1) 查询所有数据；
主讲教师：林子雨
http://www.cs.xmu.edu.cn/linziyu
第 1 页
厦门大学林子雨,赖永炫,陶继平 编著《Spark 编程基础（Scala 版）》 教材配套机房上机实验指南
实验 5 Spark SQL 编程初级实践
(2) 查询所有数据，并去除重复的数据；
(3) 查询所有数据，打印时去除 id 字段；
(4) 筛选出 age>30 的记录；
(5) 将数据按 age 分组；
(6) 将数据按 name 升序排列；
(7) 取出前 3 行数据；
(8) 查询所有记录的 name 列，并为其取别名为 username；
(9) 查询年龄 age 的平均值；
(10) 查询年龄 age 的最小值。
2．编程实现将 RDD 转换为 DataFrame
源文件内容如下（包含 id,name,age）：
1,Ella,36
2,Bob,29
3,Jack,29
请将数据复制保存到 Linux 系统中，命名为 employee.txt，实现从 RDD 转换得到
DataFrame，并按“id:1,name:Ella,age:36”的格式打印出 DataFrame 的所有数据。请写出程序代
码。
3. 编程实现利用 DataFrame 读写 MySQL 的数据
（1）在 MySQL 数据库中新建数据库 sparktest，再创建表 employee，包含如表 6-2 所示的
两行数据。
表 6-2 employee 表原有数据
id
1
name
Alice
John
gender
Age
22
F
2
M
25
（2）配置 Spark 通过 JDBC 连接数据库 MySQL，编程实现利用 DataFrame 插入如表 6-3 所
示的两行数据到 MySQL 中，最后打印出 age 的最大值和 age 的总和。
表 6-3 employee 表新增数据
id
3
name
Mary
Tom
gender
age
26
F
4
M
23
四、实验报告
《Spark 编程基础》实验报告
题目：
姓名：
日期：
实验环境：
主讲教师：林子雨
http://www.cs.xmu.edu.cn/linziyu
第 2 页
厦门大学林子雨,赖永炫,陶继平 编著《Spark 编程基础（Scala 版）》 教材配套机房上机实验指南
实验 5 Spark SQL 编程初级实践
实验内容与完成情况：
出现的问题：
解决方案（列出遇到的问题和解决办法，列出没有解决的问题）：
附录 1:任课教师介绍
林子雨(1978－),男,博士,厦门大学计算机科学系助理教授,主要研究领域为
数据库,数据仓库,数据挖掘,大数据
主讲课程：《大数据处理技术》
办公地点：厦门大学海韵园科研 2 号楼
E-mail: ziyulin@xmu.edu.cn
个人主页：http://www.cs.xmu.edu.cn/linziyu
数据库实验室网站：http://dblab.xmu.edu.cn
主讲教师：林子雨
http://www.cs.xmu.edu.cn/linziyu
第 3 页
厦门大学林子雨,赖永炫,陶继平 编著《Spark 编程基础（Scala 版）》 教材配套机房上机实验指南
实验 5 Spark SQL 编程初级实践
附录 2：课程教材介绍
林子雨、赖永炫、陶继平编著《Spark 编程基础（Scala 版）》
人民邮电出版社 ISBN:978-7-115-48816-9 定价：49.80 元
厦门大学林子雨、赖永炫和陶继平老师编著《Spark 编程基础》，以 Scala 作为开发 Spark
应用程序的编程语言，系统介绍了 Spark 编程的基础知识。全书共 8 章，内容包括大数据技
术概述、Scala 语言基础、Spark 的设计与运行原理、Spark 环境搭建和使用方法、RDD 编程、
Spark SQL、Spark Streaming、Spark MLlib 等。本书每个章节都安排了入门级的编程实践操
作，以便读者更好地学习和掌握 Spark 编程方法。本书官网免费提供了全套的在线教学资源，
包括讲义 PPT、习题、源代码、软件、数据集、授课视频、上机实验指南等。
本书可以作为高等院校计算机、软件工程、数据科学与大数据技术等专业的进阶级大数
据课程教材，用于指导 Spark 编程实践，也可供相关技术人员参考。
欢迎访问《Spark 编程基础》教材官方网站：http://dblab.xmu.edu.cn/post/spark/
扫一扫访问教材官网
主讲教师：林子雨
http://www.cs.xmu.edu.cn/linziyu
第 4 页
厦门大学林子雨,赖永炫,陶继平 编著《Spark 编程基础（Scala 版）》 教材配套机房上机实验指南
实验 5 Spark SQL 编程初级实践
附录 3：高校大数据课程公共服务平台介绍
高校大数据课程公共服务平台，由中国高校首个“数字教师”的提出者和建设者——林
子雨老师发起，由厦门大学数据库实验室全力打造，由厦门大学云计算与大数据研究中心、
海峡云计算与大数据应用研究中心携手共建。这是国内第一个服务于高校大数据课程建设的
公共服务平台，旨在促进国内高校大数据课程体系建设，提高大数据课程教学水平，降低大
数据课程学习门槛，提升学生课程学习效果。平台服务对象涵盖高校、教师和学生。平台为
高校开设大数据课程提供全流程辅助，为教师开展教学工作提供一站式服务，为学生学习大
数据课程提供全方位辅导。平台重点打造“11 个 1 工程”，即 1 本教材（含官网）、1 个教师
服务站、1 个学生服务站、1 个公益项目、1 堂巡讲公开课、1 个示范班级、1 门在线课程、
1 个交流群（QQ 群、微信群）、1 个保障团队、1 个培训基地和 1 个实验平台。目前平台每
年访问量已经超过 100 万次，成为国内高校大数据教学知名品牌。
平台主页：http://dblab.xmu.edu.cn/post/bigdata-teaching-platform/
扫一扫访问平台主页
主讲教师：林子雨
http://www.cs.xmu.edu.cn/linziyu
第 5 页
浙公网安备 33010602011771号