6. RDD综合练习:更丰富的操作
三、学生课程分数
持久化 scm.cache()
总共有多少学生?map(), distinct(), count() 开设了多少门课程
生成(姓名,课程分数)键值对RDD,观察keys(),values()
每个学生选修了多少门课?map(), countByKey()
每门课程有多少个学生选?map(), countByValue() ;有多少个100分?
Tom选修了几门课?每门课多少分?map(),lookup() lis;Tom选修了几门课?每门课多少分?filter(), map() RDD
Tom的成绩按分数大小排序。filter(), map(), sortBy()
Tom的平均分。map(),lookup(),mean()
生成(姓名课程,分数)RDD,观察keys(),values()
每个分数+10分。分别用mapValues(func)和 map(func)实现。并查看不及格人数的变化。
求每门课的选修人数及总分reduceByKey()和collectAsMap()实现
求每门课的选修人数及平均分
lookup(),np.mean()实现
reduceByKey()和collectAsMap()实现
combineByKey(),map(),round()实现,确到多位小数
两位小数
内连接与外连接
join(), leftOuterJoin(), rightOuterJoin(), fullOuterJoin()
多个考勤文件,签到日期汇总,出勤次数统计