04 2021 档案

05 RDD编程
摘要：一、词频统计： 1.读文本文件生成RDD lines lines = sc.textFile('file:///home/hadoop/word.txt') 2.将一行一行的文本分割成单词 words flatmap( words=lines.flatMap(lambda line:line.spl 阅读全文
posted @ 2021-04-18 20:19 Ling3 阅读(47) 评论(0) 推荐(0)
05 RDD练习：词频统计
摘要：一、词频统计： 1.读文本文件生成RDD lines lines=sc.textFile("file:/mycode/rdd/word.txt") lines.foreach(print) 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 lower() 4.去掉长 阅读全文
posted @ 2021-04-04 19:41 Ling3 阅读(28) 评论(0) 推荐(0)