Hadoop综合大作业

 

Hadoop综合大作业 要求:

1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

  1.启动hadoop

 

       2.Hdfs上创建文件夹并查看

上传英文词频统计文本至hdfs

 

 

 

 

 

启动Hive

导入文件内容到表docs并查看

 

进行词频统计,结果放在表t_word_count2里

 

 

查看统计结果

 

 

 

 

2.用Hive对爬虫大作业产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

1、产生CSV文件一览图

2、删除文件的第一条数据并查看

 

3、上传文件到hdfs

4、启动hive

5、导入文件内容到表到docs中并查看

 

posted @ 2018-05-23 23:48  Hiro-D  阅读(139)  评论(0编辑  收藏  举报