08 分布式计算MapReduce--词频统计

WordCount程序任务：

程序	WordCount
输入	一个包含大量单词的文本文件
输出	文件中每个单词及其出现次数（频数）， 并按照单词字母顺序排序， 每个单词和其频数占一行，单词和频数之间有间隔

1.用你最熟悉的编程环境，编写非分布式的词频统计程序。（Python）

• 文件
• 分词（text.split列表）
• 按单词统计（字典,key单词，value次数）
• 排序（list.sort列表）
• 输出

（1）创建一个含有英文的文本文档，并将其命名为english.txt

 

（2)将文档中的单词分割

 

 得到的输出结果如下：

 

 （3）按单词统计词频：

 

 得到的输出结果如下所示：

 

 （4）将文本文档中的单词按照首字母从大到小进行排序：

 

 得到的输出结果如下所示：

 

2.用MapReduce实现词频统计

2.1编写Map函数

1、编写mapper.py

2、授予可运行权限

3、本地测试mapper.py

 

2.2编写Reduce函数

• 编写reducer.py
• 授予可运行权限
• 本地测试reducer.py