摘要: 作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339 本次选取的是爬取歌曲《大碗宽面》的歌评数据 1.将爬虫大作业产生的csv文件上传到HDFS 2.对CSV文件进行预处理生成无标题文本文件 3.把hdfs中的文本文 阅读全文
posted @ 2019-06-12 18:57 海芋 阅读(775) 评论(0) 推荐(0) 编辑
摘要: 作业来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3319 1. 用自己的话阐明Hadoop平台上HDFS和MapReduce的功能、工作原理和工作过程。 (1)HDFS的功能:元数据、检查点、DataNode功能 HDFS的 阅读全文
posted @ 2019-06-05 20:07 海芋 阅读(412) 评论(0) 推荐(0) 编辑
摘要: 作业要求来自于https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3292 利用Shell命令与HDFS进行交互 以”./bin/dfs dfs”开头的Shell命令方式 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(had 阅读全文
posted @ 2019-05-31 21:28 海芋 阅读(146) 评论(0) 推荐(0) 编辑
摘要: 作业来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3161 1. 简述Hadoop平台的起源、发展历史与应用现状。 列举发展过程中重要的事件、主要版本、主要厂商; 国内外Hadoop应用的典型案例。 (1)Hadoop起源 H 阅读全文
posted @ 2019-05-07 19:32 海芋 阅读(194) 评论(0) 推荐(0) 编辑
摘要: 作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3075 一、爬取对象 4月19日,吴亦凡在网上发布了一首新歌,这首歌的名字非常有意思,叫做《大碗宽面》,这首歌《大碗宽面》其实是之前一直被大家恶搞的梗,是吴亦凡在参加综艺 阅读全文
posted @ 2019-04-28 19:57 海芋 阅读(1190) 评论(0) 推荐(0) 编辑
摘要: 作业来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2941 1.从新闻url获取新闻详情: 字典,anews 2.从列表页的url获取新闻url:列表append(字典) alist 3.生成所页列表页的url并获取全部新闻 阅读全文
posted @ 2019-04-12 16:02 海芋 阅读(204) 评论(0) 推荐(0) 编辑
摘要: 作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894 给定一篇新闻的链接newsUrl,获取该新闻的全部信息 标题、作者、发布单位、审核、来源 发布时间:转换成datetime类型 点击: newsUrl newsI 阅读全文
posted @ 2019-04-03 15:21 海芋 阅读(201) 评论(0) 推荐(0) 编辑
摘要: 作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2851 1. 简单说明爬虫原理 (1)首先选取一部分精心挑选的种子URL; (2)将这些URL放入待抓取URL队列; (3)从待抓取URL队列中取出待抓取在URL,解析DNS, 阅读全文
posted @ 2019-03-25 21:11 海芋 阅读(486) 评论(0) 推荐(0) 编辑
摘要: 作业来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773 中文词频统计 1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba import ji 阅读全文
posted @ 2019-03-18 20:20 海芋 阅读(1067) 评论(0) 推荐(0) 编辑
摘要: 作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2696 1.列表,元组,字典,集合分别如何增删改查及遍历。 列表: 元祖: 字典: 集合: 2.总结列表,元组,字典,集合的联系与区别。参考以下几个方面: 括号 有序无 阅读全文
posted @ 2019-03-13 02:22 海芋 阅读(248) 评论(0) 推荐(0) 编辑