04 2021 档案

摘要:一、词频统计: 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词 6. 转换成键值对 map() 读大学计算机系的成绩数据集生成RDD 分解出字段 生成键值对 map() 7.统计词频 reduceByKe 阅读全文
posted @ 2021-04-18 20:26 儒雅随和的t君 阅读(44) 评论(0) 推荐(0)
摘要:二、学生课程分数 groupByKey() -- 按课程汇总全总学生和分数 1. 分解出字段 map() 2. 生成键值对 map() 3. 按键分组 4. 输出汇总结果 读大学计算机系的成绩数据集生成RDD 分解出字段 生成键值对 map() 按键分组 输出汇总结果 阅读全文
posted @ 2021-04-05 20:37 儒雅随和的t君 阅读(36) 评论(0) 推荐(0)