8. SparkSQL综合作业

综合练习：学生课程分数

网盘下载sc.txt文件，创建RDD，并转换得到DataFrame。

 

RDD操作见https://www.cnblogs.com/Kiranar/p/16138625.html

同一操作插入sql/dataframe操作图，sql在下，dataframe在上

 

dataframe：

 sql：

 

分别用DataFrame操作和spark.sql执行SQL语句实现以下数据分析:

• 持久化 scm.cache()
• 总共有多少学生？map(), distinct(), count()
• 开设了多少门课程？
• 

   

 

 

• 生成（姓名，课程分数）键值对RDD，观察keys(),values()
• 每个学生选修了多少门课？map(), countByKey()
• 

  

   

   

• 每门课程有多少个学生选？map(), countByValue() 
• 

   

   

• 有多少个100分？
• 

   

   

• Tom选修了几门课？每门课多少分？filter(), map() RDD
• Tom选修了几门课？每门课多少分？map(),lookup()  list

• Tom的成绩按分数大小排序。filter(), map(), sortBy()
• 
• 

   

• Tom的平均分。map(),lookup(),mean()

 

 

 

• 生成（姓名课程，分数）RDD，观察keys(),values()
• 每个分数+20平时分。
  

  

   

   

  
  
  
• 求每门课的选修人数及平均分
  • lookup(),np.mean()实现
  • reduceByKey()和collectAsMap()实现
  • combineByKey()，map()，round()实现，确到2位小数
  • 比较几种方法的异同。
  • datadrame：

    

     

  • 

     

  • sql：