摘要：1. 用Pyspark自主实现词频统计过程。 2. 并比较不同计算框架下编程的优缺点、适用的场景。 –Python –MapReduce –Hive –Spark Mapreduce，它最本质的两个过程就是Map和Reduce，Map的应用在于我们需要数据一对一的元素的映射转换，比如说进行截取，进行 阅读全文

摘要：一、词频统计： 读文本文件生成RDD lines 1. 将一行一行的文本分割成单词 words flatmap() 2. 全部转换为小写 lower() 3. 去掉长度小于3的单词 filter() 4. 去掉停用词 5. 转换成键值对 map() 6. 统计词频 reduceByKey() 7.  阅读全文

摘要：词频统计： 学习课程分数： 阅读全文