08 分布式计算MapReduce--词频统计

WordCount程序任务:

程序

WordCount

输入

一个包含大量单词的文本文件

输出

文件中每个单词及其出现次数(频数),

并按照单词字母顺序排序,

每个单词和其频数占一行,单词和频数之间有间隔

1.用你最熟悉的编程环境,编写非分布式的词频统计程序。

  • 读文件
  • 分词(text.split列表)
  • 按单词统计(字典,key单词,value次数)
  • 排序(list.sort列表)
  • 输出

 

(1)读文件、分词(text.split列表)

 

 2、按单词统计(字典,key单词,value次数)、排序(list.sort列表)

 

3、主函数与输出

 

4、输出结果

2、 在Ubuntu中实现运行。

  • 准备txt文件
  • 编写py文件
  • python3运行py文件分析txt文件。

 (1)准备txt文件

(2)编写py文件

 

(3)python3运行py文件分析txt文件

 

2.用MapReduce实现词频统计

 

2.1编写Map函数

  • 编写mapper.py
  • 授予可运行权限
  • 本地测试mapper.py

 (1)编写mapper.py

 (2)授予可运行权限

(3)本地测试mapper.py

 

2.2编写Reduce函数

  • 编写reducer.py
  • 授予可运行权限
  • 本地测试reducer.py

(1)编写reducer.py

(2)授予可运行权限

(3)本地测试reducer.py

2.3分布式运行自带词频统计示例

  • 启动HDFS与YARN
  • 准备待处理文件,上传到HDFS上
  • 运行hadoop-mapreduce-examples-2.7.1.jar
  • 查看结果

(1)启动HDFS与YARN

(2)运行伪分布式实例

 

(3)准备待处理文件,上传到HDFS上

(4)运行hadoop-mapreduce-examples-2.7.1.jar

(5)查看结果

2.4 分布式运行自写的词频统计

  • 用Streaming提交MapReduce任务:查看运行结果
    • 查看hadoop-streaming的jar文件位置:/usr/local/hadoop/share/hadoop/tools/lib/
    • 配置stream环境变量
    • 编写运行文件run.sh
    • 运行run.sh结果
  • 停止HDFS与YARN
(1)查看hadoop-streaming的jar文件位置:/usr/local/hadoop/share/hadoop/tools/lib/

 

 (2)配置stream环境变量

 

 

(3) 编写运行文件run.sh

 

 

 (4)运行run.sh

(5)查看运行结果

 (5)停止HDFS与YARN

 

 

posted @ 2021-11-27 23:09  Alice12824  阅读(19)  评论(0编辑  收藏  举报