作业八:SparkSQL综合作业

综合练习:学生课程分数

网盘下载sc.txt文件,分别用RDD操作、DataFrame操作和spark.sql执行SQL语句实现以下数据分析:

  1. 网盘下载sc.txt文件,创建RDD,并转换得到DataFrame

     

     

     

     

     

     

    一、DataFrame操作

    1.总共有多少学生?

     

     

    2.总共开设了多少门课程?

     

     

    3.每个学生选修了多少门课?

     

     

    4.每门课程有多少个学生选?

     

     

    5.每门课程>95分的学生人数

     

     

    6.课程'Python'有多少个100分?

     

     

    7.Tom选修了几门课?每门课多少分?

     

     

    8.Tom的成绩按分数大小排序。

     

     

    9.Tom选修了哪几门课?

     

     

    10.Tom的平均分

     

     

    11.'OperatingSystem'不及格人数

     

     

    12.'OperatingSystem'平均分

     

     

    13.'OperatingSystem'90分以上人数

     

     

    14.'OperatingSystem'前3名

     

     

    15.每个分数按比例+20平时分。

     

     

    16.求每门课的平均分

     

     

     

    二、spark.sql操作

    1.总共有多少学生?

     

     

     

    2.总共开设了多少门课程?

     

     

    3.每个学生选修了多少门课?

     

     

    4.每门课程有多少个学生选?

     

     

    5.每门课程>95分的学生人数

     

     

    6.课程'Python'有多少个100分?

     

     

    7.Tom选修了几门课?每门课多少分?

     

     

    8.Tom的成绩按分数大小排序。

     

     

    9.Tom选修了哪几门课?

     

     

    10.Tom的平均分

     

     

    11.'OperatingSystem'不及格人数

     

     

    12.'OperatingSystem'平均分

     

     

    13.'OperatingSystem'90分以上人数

     

     

    14.'OperatingSystem'前3名

     

     

    15.每个分数按比例+20平时分。

     

     

    16.求每门课的平均分

  2. 选修了7门课的有多少个学生?

  3. 每门课大于95分的学生数

  4. 每门课的选修人数、平均分、不及格人数、通过率
  5. 优秀、良好、通过和不合格各有多少人?
  6. 同时选修了DataStructure和 DataBase 的学生
  7. 选修了DataStructure 但没有选修 DataBase 的学生
  8. 选修课程数少于3门的同学
  9. 选修6门及以上课程数的同学
  10. 查询平均成绩大于等于60分的姓名和平均成绩
  11. 找出平均分最高的10位同学

 

选做:对数据分析结果进行可视化

    选择几个有作图意义的问题,将结果转换为Pandas,进行可视化

 资源链接:https://pan.baidu.com/s/1Hc9SxMLcsP9HVQLZ7eSVYA 提取码:tefr

此作业需按要求与模板完成文档提交。

posted @ 2022-05-27 14:07  hetianming  阅读(89)  评论(0编辑  收藏  举报