Hadoop综合大作业

一、用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

1、启动hadoop

 

 

2、hdfs上创建文件夹并查看

 

3、上传英文词频统计文本至hdfs

 

4、启动hive

 

 

5、创建novel原始文档表

 

6、导入文件内容到表novel并查看

 

7、用HQL进行词频统计,结果放在表k_word_count里

 

8、查看统计结果

 

 

二、用Hive对产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

1、产生CSV文件一览图

 

2、删除文件的第一条数据并查看

 

3、上传文件到hdfs

 

4、启动hive后,导入文件内容到表到docs中并查看

 

 

posted @ 2018-05-25 13:10  142黄浩峰  阅读(94)  评论(0编辑  收藏  举报