摘要: 1.用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)进行词频统计。 在网上下载英文小说,下载到本地home/hadoop/wc 首先要启动dfs: 在user/hadoop/上创建文件夹EnglishWord: 上传下载文档到user/hadoop/EnglishWord文 阅读全文
posted @ 2018-05-25 09:08 106-李派活 阅读(85) 评论(0) 推荐(0) 编辑
摘要: 1. 用Python编写WordCount程序并提交任务 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数(频数),并按照单词字母顺序排序,每个单词和其频数占一行,单词和频数之间有间隔 阅读全文
posted @ 2018-05-10 21:36 106-李派活 阅读(117) 评论(0) 推荐(0) 编辑
摘要: 1. 以下关系型数据库中的表和数据,要求将其转换为适合于HBase存储的表并插入数据: 学生表(Student)(不包括最后一列) 学号(S_No) 姓名(S_Name) 性别(S_Sex) 年龄(S_Age) 课程(course) 2015001 Zhangsan male 23 2015003 阅读全文
posted @ 2018-05-04 21:59 106-李派活 阅读(102) 评论(0) 推荐(0) 编辑
摘要: 一、Hadoop提供的Shell命令完成相同任务: 二、 1、向HDFS中上传任意文本文件,如果指定的文件在HDFS中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件; 2、从HDFS中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名; 3、将HDFS中指定文件的 阅读全文
posted @ 2018-04-27 21:11 106-李派活 阅读(186) 评论(0) 推荐(0) 编辑
摘要: 用python 编写爬虫程序,爬取了一篇微博文章,并对数据进行了分析生成词云 文本解析: 读取文本,使用第三方库(jieba)将文本中的高频词汇分出,为词云设置颜色。 生成词云结果: 阅读全文
posted @ 2018-04-24 11:25 106-李派活 阅读(459) 评论(0) 推荐(0) 编辑
摘要: 1. 将新闻的正文内容保存到文本文件。 def writeNewsDatail(content): f=open('gzccnews1.txt','a',encoding='utf-8') f.write(content) f.close() 2. 将新闻数据结构化为字典的列表: 单条新闻的详情-- 阅读全文
posted @ 2018-04-17 20:40 106-李派活 阅读(131) 评论(0) 推荐(0) 编辑
摘要: 1. 用正则表达式判定邮箱是否输入正确。 2. 用正则表达式识别出全部电话号码。 3. 用正则表达式进行英文分词。re.split('',news) 4. 使用正则表达式取得新闻编号 5. 生成点击次数的Request URL 6. 获取点击次数 7. 将456步骤定义成一个函数 def getCl 阅读全文
posted @ 2018-04-11 22:57 106-李派活 阅读(176) 评论(0) 推荐(0) 编辑
摘要: 1. 用requests库和BeautifulSoup库,爬取校园新闻首页新闻的标题、链接、正文。 2. 分析字符串,获取每篇新闻的发布时间,作者,来源,摄影等信息 3. 将其中的发布时间由str转换成datetime类型 阅读全文
posted @ 2018-04-02 19:06 106-李派活 阅读(108) 评论(0) 推荐(0) 编辑
摘要: import requests newsurl = 'http://localhost:56341/bd/123.html?_ijt=7pd1hi6n7j1ue90de4jivbr31k' res = requests.get(newsurl) # 返回response对象 res.encoding = 'utf-8' print(res.text) from bs4 import Beaut... 阅读全文
posted @ 2018-03-29 21:21 106-李派活 阅读(127) 评论(0) 推荐(0) 编辑
摘要: word=''' Well I wonder could it be When I was dreaming about you baby You were dreaming of me Call me crazy Call me blind To still be suffering is stu 阅读全文
posted @ 2018-03-26 10:59 106-李派活 阅读(124) 评论(0) 推荐(0) 编辑