08 分布式计算MapReduce--词频统计
WordCount程序任务:
程序 |
WordCount |
输入 |
一个包含大量单词的文本文件 |
输出 |
文件中每个单词及其出现次数(频数), 并按照单词字母顺序排序, 每个单词和其频数占一行,单词和频数之间有间隔
|
1.用你最熟悉的编程环境,编写非分布式的词频统计程序。
- 读文件
- 分词(text.split列表)
- 按单词统计(字典,key单词,value次数)
- 排序(list.sort列表)
- 输出
在Ubuntu中实现运行。
- 准备txt文件
- 编写py文件
- python3运行py文件分析txt文件。
(1)准备f1.txt文件:
(2)编写wc.py文件:
(3)python3运行py文件分析txt文件:
2.用MapReduce实现词频统计
2.1编写Map函数
- 编写mapper.py
- 授予可运行权限
- 本地测试mapper.py
(1)编写mapper.py:
(2)授予可运行权限:
(3)本地测试mapper.py:
2.2编写Reduce函数
- 编写reducer.py
- 授予可运行权限
- 本地测试reducer.py
(1)编写reducer.py:
(2)授予可运行权限:
(3)本地测试reducer.py:
2.3分布式运行自带词频统计示例
- 启动HDFS与YARN
- 准备待处理文件
- 上传HDFS
- 运行hadoop-mapreduce-examples-2.7.1.jar
- 查看结果
- 停止HDFS与YARN
(1)启动HDFS与YARN:
(2)准备待处理文件,上传到HDFS上:
(3)运行hadoop-mapreducer-examples-2.10.1.jar:
(4)查看结果:
因为input文件夹里面文件过多,因此输出的结果不止为f1.txt
2.4 分布式运行自写的词频统计
- 用Streaming提交MapReduce任务:查看运行结果查看运行结果
- 查看hadoop-streaming的jar文件位置:/usr/local/hadoop/share/hadoop/tools/lib/
- 配置stream环境变量
- 编写运行文件run.sh
- 运行run.sh运行
- 查看运行结果
- 停止HDFS与YARN
(1)用Streaming提交MapReduce任务:查看运行结果查看运行结果:
a:查看hadoop-streaming的jar文件位置:/usr/local/hadoop/share/hadoop/tools/lib/
b:配置stream环境变量
c:编写运行文件run.sh
d:运行run.sh运行
运行前:
运行后:
(2)查看运行结果
(3)停止HDFS与YARN