08

WordCount程序任务:

程序

WordCount

输入

一个包含大量单词的文本文件

输出

文件中每个单词及其出现次数(频数),

并按照单词字母顺序排序,

每个单词和其频数占一行,单词和频数之间有间隔

1.用你最熟悉的编程环境,编写非分布式的词频统计程序。

  • 读文件
  • 分词(text.split列表)
  • 按单词统计(字典,key单词,value次数)
  •  

     

  • 排序(list.sort列
  •  

     

     

     

     

     

    在Ubuntu中实现运行。

    • 准备txt文件
    • 编写py文件
    • python3运行py文件分析txt文件。

     

     

     

    2.用MapReduce实现词频统计

    2.1编写Map函数

    • 编写mapper.py
    • 授予可运行权限
    • 本地测试mapper.py

     

     

     

    • 2.2编写Reduce函数

      • 编写reducer.py
      • 授予可运行权限
      • 本地测试reducer.py

     

     

     

     

posted @ 2021-11-29 21:56  奇怪的读书人  阅读(10)  评论(0编辑  收藏  举报