08

WordCount程序任务：

程序	WordCount
输入	一个包含大量单词的文本文件
输出	文件中每个单词及其出现次数（频数）， 并按照单词字母顺序排序， 每个单词和其频数占一行，单词和频数之间有间隔

1.用你最熟悉的编程环境，编写非分布式的词频统计程序。

• 读文件
• 分词（text.split列表）
• 按单词统计（字典,key单词，value次数）
• 

   

   

• 排序（list.sort列

•  

   

  

   

   

   

   

  在Ubuntu中实现运行。

  • 准备txt文件
  • 编写py文件
  • python3运行py文件分析txt文件。

   

   

   

  2.用MapReduce实现词频统计

  2.1编写Map函数

  • 编写mapper.py
  • 授予可运行权限
  • 本地测试mapper.py

   

   

   

  • 2.2编写Reduce函数

    • 编写reducer.py
    • 授予可运行权限
    • 本地测试reducer.py