05 2018 档案

摘要:Hadoop综合大作业 要求: 1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。 我下载了一篇英文小说来进行词频统计分析。 首先启动hadoop 文件上传到hdfs 启动hive 创建小说表,并导入数据 用HQL进行词频统计,结果放在表word_count里 阅读全文
posted @ 2018-05-23 19:39 168李文辉 阅读(104) 评论(0) 推荐(0)
摘要:通过hadoop上的hive完成WordCount 启动hadoop Hdfs上创建文件夹 上传文件至hdfs 启动Hive 创建原始文档表 导入文件内容到表docs并查看 用HQL进行词频统计,结果放在表word_count里 查看统计结果 阅读全文
posted @ 2018-05-16 16:19 168李文辉 阅读(105) 评论(0) 推荐(0)
摘要:用mapreduce 处理气象数据集 编写程序求每日最高最低气温,区间最高最低气温 气象数据集下载地址为:ftp://ftp.ncdc.noaa.gov/pub/data/noaa 按学号后三位下载不同年份月份的数据(例如201506110136号同学,就下载2013年以6开头的数据,看具体数据情况 阅读全文
posted @ 2018-05-09 20:59 168李文辉 阅读(180) 评论(0) 推荐(0)
摘要:1 2 3 阅读全文
posted @ 2018-05-08 21:06 168李文辉 阅读(138) 评论(0) 推荐(0)