08 分布式计算MapReduce--词频统计

1.用你最熟悉的编程环境,编写非分布式的词频统计程序。

 

 

 

 

 

2.用MapReduce实现词频统计

 2.1编写Map函数

 

 

 

 

 

 

2.2编写Reduce函数

 

 

 

 

 

 

2.3分布式运行自带词频统计示例

 

 

 

 

 

 

2.4 分布式运行自写的词频统计

查看hadoop-streaming的jar文件位置:/usr/local/hadoop/share/hadoop/tools/lib/

  • 配置stream环境变量

  • 编写运行文件run.sh
  • 运行run.sh运行
  • 查看运行结果
  • 停止HDFS与YARN
posted @ 2021-11-30 14:11  天珍  阅读(28)  评论(0)    收藏  举报