随笔档案「2021年4月」 - wwxtl

04 2021 档案

摘要：一、词频统计：读文本文件生成RDD lines 将一行一行的文本分割成单词 words flatmap() 全部转换为小写 lower() 去掉长度小于3的单词 filter() 去掉停用词 1.准备停用词文本： 2.去除停用词：转换成键值对 map() 统计词频 reduceByKey() 按阅读全文

posted @ 2021-04-18 13:20 wwxtl 阅读(90) 评论(0) 推荐(0)

RDD练习：词频统计

摘要：一、词频统计： 1.读文本文件生成RDD lines 2.将一行一行的文本分割成单词 words flatmap() 3.全部转换为小写 4.去掉长度小于3的单词 5.去掉停用词准备停用词文本 2.去除停用词： 6.转换成键值对 map() 7.统计词频 reduceByKey() 二、学生课程分阅读全文

posted @ 2021-04-04 11:04 wwxtl 阅读(86) 评论(0) 推荐(0)