06 2021 档案

摘要:缺交:https://www.cnblogs.com/xwj0920/p/14850399.html 05 RDD练习:词频统计,学习课程分数 原因:当时忘记交了 大作业: 1.选择使用什么数据,有哪些字段,多大数据量。 数据:中国疫情数据 字段:中国地区、新增死亡人数、新增疑似人数、新增确诊人数、 阅读全文
posted @ 2021-06-07 16:26 XWJ0920 阅读(33) 评论(0) 推荐(0)
摘要:一、词频统计: 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长度小于3的单词 filter() 5.去掉停用词 6.转换成键值对 map() 7.统计词频 reduceByKey() 二、学生课程分 阅读全文
posted @ 2021-06-04 17:07 XWJ0920 阅读(28) 评论(0) 推荐(0)