摘要: Hadoop综合大作业 要求: 1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。 1.启动hadoop 2.Hdfs上创建文件夹并查看 上传英文词频统计文本至hdfs 启动Hive 导入文件内容到表docs并查看 进行词频统计,结果放在表t_word_coun 阅读全文
posted @ 2018-05-23 23:48 Hiro-D 阅读(139) 评论(0) 推荐(0) 编辑
摘要: 通过hadoop上的hive完成WordCount 启动hadoop ssh localhost cd /usr/local/hadoop ./sbin/start-dfs.sh cd /usr/local/hive/lib service mysql start start-all.sh Hdfs 阅读全文
posted @ 2018-05-16 17:08 Hiro-D 阅读(180) 评论(0) 推荐(0) 编辑
摘要: 用mapreduce 处理气象数据集 编写程序求每日最高最低气温,区间最高最低气温 阅读全文
posted @ 2018-05-09 21:30 Hiro-D 阅读(137) 评论(0) 推荐(0) 编辑
摘要: 1. 以下关系型数据库中的表和数据,要求将其转换为适合于HBase存储的表并插入数据: 学生表(Student)(不包括最后一列) 学号(S_No) 姓名(S_Name) 性别(S_Sex) 年龄(S_Age) 课程(course) 2015001 Zhangsan male 23 2015003 阅读全文
posted @ 2018-05-07 22:46 Hiro-D 阅读(191) 评论(0) 推荐(0) 编辑
摘要: 将高频词汇放入test.txt以后打开 http://www.picdata.cn/ 用网上词云生成图片 阅读全文
posted @ 2018-04-28 15:19 Hiro-D 阅读(302) 评论(1) 推荐(0) 编辑
摘要: 编程实现以下指定功能,并利用Hadoop提供的Shell命令完成相同任务: 在本地Linux文件系统的“/home/hadoop/”目录下创建一个文件txt,里面可以随意输入一些单词. 在本地查看文件位置(ls) 在本地显示文件内容 cd /usr/local/hadoop touch linux. 阅读全文
posted @ 2018-04-25 16:26 Hiro-D 阅读(205) 评论(0) 推荐(0) 编辑
摘要: 爬取中山大学官网的新闻页面: 截图: 阅读全文
posted @ 2018-04-11 17:23 Hiro-D 阅读(129) 评论(0) 推荐(0) 编辑
摘要: import requests from bs4 import BeautifulSoup from datetime import datetime import re res = requests.get('http://news.gzcc.cn/html/xiaoyuanxinwen/') res.encoding = 'utf-8' soup = BeautifulSoup(res.te... 阅读全文
posted @ 2018-04-04 16:14 Hiro-D 阅读(124) 评论(0) 推荐(0) 编辑
摘要: 0.可以新建一个用于练习的html文件,在浏览器中打开。 1.利用requests.get(url)获取网页页面的html文件 import requests newsurl='http://news.gzcc.cn/html/xiaoyuanxinwen/' res = requests.get( 阅读全文
posted @ 2018-03-29 10:38 Hiro-D 阅读(135) 评论(0) 推荐(0) 编辑
摘要: # -*- coding:UTF-8 -*- # -*- author: Hiro -*- import jieba txt = open('a.txt','r',encoding='utf-8') text1 = txt.read() text2 = list(jieba.lcut(text1)) delete = {',','。',' ',':','“','”','','!','、... 阅读全文
posted @ 2018-03-28 19:59 Hiro-D 阅读(77) 评论(0) 推荐(0) 编辑