Hadoop综合大作业

1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

启动hadoop

用hdfs创建文件夹

上传自己找的英文文章到hdfs上

启动hive,创建novels原始文档表

导入文件内容到表docs并查看

用HQL进行词频统计,结果放在表word_count里

查看统计结果

2.用Hive对爬虫大作业产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果

1.爬取信息后到一个CSV文件里

2.启动hadoop

3.删除文件的第一条数据并查看

4.上传文件到hdfs

5.启动hive后,导入文件内容到表到docs中并查看

 

posted @ 2018-05-23 17:47  150颜杰文  阅读(82)  评论(0编辑  收藏  举报