SparkSQL综合作业
网盘下载sc.txt文件,分别用RDD操作、DataFrame操作和spark.sql执行SQL语句实现以下数据分析:
0. 创建RDD,并转换为DataFrame;scm持久化;创建spark.sql临时表等预处理:
-
总共有多少学生?
RDD:
DataFrame:
spark.sql:
-
总共开设了多少门课程?
RDD:
DataFrame:
spark.sql:
-
每个学生选修了多少门课?
RDD:
DataFrame:
spark.sql:
-
每门课程有多少个学生选?
RDD:
DataFrame:
spark.sql:
- 每门课程>95分的学生人数
RDD:
DataFrame:
spark.sql:
-
课程'Python'有多少个100分?
RDD:
DataFrame:
spark.sql:
-
Tom选修了几门课?每门课多少分?
RDD:
DataFrame:
spark.sql:
-
Tom的成绩按分数大小排序。
RDD:
DataFrame:
spark.sql:
-
Tom选修了哪几门课?
RDD:
DataFrame:
spark.sql:
-
Tom的平均分。
RDD:
DataFrame:
spark.sql:(保留了2位小数,round())
-
'OperatingSystem'不及格人数
RDD:
DataFrame:
spark.sql:
-
'OperatingSystem'平均分
RDD:
DataFrame:
spark.sql:(保留了2位小数,round())
-
'OperatingSystem'90分以上人数
RDD:
DataFrame:
spark.sql:
-
'OperatingSystem'前3名
RDD:
DataFrame:
spark.sql:
-
每个分数按比例+20平时分。
RDD:
DataFrame:
spark.sql:
-
求每门课的平均分
RDD:
DataFrame:
spark.sql:
-
选修了7门课的有多少个学生?
RDD:
DataFrame:
spark.sql:
-
每门课大于95分的学生数
RDD:
DataFrame:
spark.sql:
- 每门课的选修人数、平均分、不及格人数、通过率
RDD:
DataFrame:
spark.sql:
- 优秀、良好、通过和不合格各有多少人?
RDD:
DataFrame:
spark.sql:
- 同时选修了DataStructure和 DataBase 的学生
RDD:
DataFrame:
spark.sql:
- 选修了DataStructure 但没有选修 DataBase 的学生
RDD:
DataFrame:
spark.sql:
- 选修课程数少于3门的同学
RDD:
DataFrame:
spark.sql:
- 选修6门及以上课程数的同学
RDD:
DataFrame:
spark.sql:
- 查询平均成绩大于等于60分的姓名和平均成绩
RDD:
DataFrame:
spark.sql:
- 找出平均分最高的10位同学
RDD:
DataFrame:
spark.sql: