04 2021 档案

06 RDD编程
摘要:06 RDD编程 二、学生课程分数案例 1.总共有多少学生?map(), distinct(), count() 2.开设了多少门课程? 3.每个学生选修了多少门课?map(), countByKey() 4.每门课程有多少个学生选?map(), countByValue() 5.Tom选修了几门课 阅读全文
posted @ 2021-04-12 21:59 almir 阅读(54) 评论(0) 推荐(0)
05 RDD练习:词频统计,学习课程分数
摘要:05 RDD练习:词频统计,学习课程分数 一、词频统计: 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长度小于3的单词 filter() 5.去掉停用词 6.转换成键值对 map() 7.统计词频  阅读全文
posted @ 2021-04-05 21:31 almir 阅读(67) 评论(0) 推荐(0)