04 2021 档案

摘要:一、词频统计: 1.读文本文件生成RDD lines;将一行一行的文本分割成单词 words flatmap();全部转换为小写 lower();去掉长度小于3的单词 filter();去掉停用词;转换成键值对 map();统计词频 reduceByKey() 2.按字母顺序排序 sortByKey 阅读全文
posted @ 2021-04-18 16:56 少吃外卖 阅读(122) 评论(0) 推荐(0) 编辑