2021年4月12日
06 RDD编程
摘要： 一、词频统计： 读文本文件生成RDD lines 1. 将一行一行的文本分割成单词 words flatmap() 2. 全部转换为小写 lower() 3. 去掉长度小于3的单词 filter() 4. 去掉停用词 5. 转换成键值对 map() 6. 统计词频 reduceByKey() 7.  阅读全文
posted @ 2021-04-12 19:19 Jay杰 阅读(71) 评论(0) 推荐(0)