摘要: 一、词频统计: 读文本文件生成RDD lines 将一行一行的文本分割成单词 words flatmap() 全部转换为小写 lower() 去掉长度小于3的单词 filter()去掉停用词 转换成键值对 map() 统计词频 reduceByKey() 按字母顺序排序 sortBy(f) 按词频排 阅读全文
posted @ 2021-04-19 13:14 吴铨兴 阅读(44) 评论(0) 推荐(0) 编辑