04 2021 档案

摘要:学生课程分数案例 总共有多少学生?map(), distinct(), count() 开设了多少门课程? 每个学生选修了多少门课?map(), countByKey() 每门课程有多少个学生选?map(), countByValue() Tom选修了几门课?每门课多少分?filter(), map 阅读全文
posted @ 2021-04-23 17:23 ohbigshit 阅读(61) 评论(0) 推荐(0)
摘要:>>> s = txt.lower().split()>>> dd = {}>>> for word in s:... if word not in dd:... dd[word] = 1... else:... dd[word] = dic[word] + 1...>>> ss = sorted( 阅读全文
posted @ 2021-04-22 20:29 ohbigshit 阅读(67) 评论(0) 推荐(0)
摘要:一、词频统计: #1.读文本文件生成RDD lines #2.将一行一行的文本分割成单词 words flatmap() #3.全部转换为小写 lower() #4.去掉长度小于3的单词 filter() #5.去掉停用词 #6.转换成键值对 map() 7.统计词频 reduceByKey() 二 阅读全文
posted @ 2021-04-06 21:34 ohbigshit 阅读(46) 评论(0) 推荐(0)