Hadoop综合大作业

一、用Hive对爬虫大作业产生的文本文件（或者英文词频统计下载的英文长篇小说）词频统计。

1、启动hadoop

 

2、hdfs上创建文件夹并查看

 

3、上传英文词频统计文本至hdfs

 

4、启动hive

 

5、创建novel原始文档表

 

6、导入文件内容到表novel并查看

 

7、用HQL进行词频统计，结果放在表k_word_count里

 

8、查看统计结果

 

 

二、用Hive对产生的csv文件进行数据分析，写一篇博客描述你的分析过程和分析结果。

1、产生CSV文件一览图

 

2、删除文件的第一条数据并查看

 

3、上传文件到hdfs

 

4、启动hive

 

5、导入文件内容到表到docs中并查看

 

6、总结

由于我爬的是学校的新闻，是一个新闻类网站，可以用来分析的数据并不多，所以只爬取了新闻标题、时间等信息。

通过这个大作业，我对如何进行大数据分析有一定的了解，对使用hadoop，hive等也有一定的了解。