会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
yuui
博客园
首页
新随笔
联系
订阅
管理
2019年6月16日
hadoop综合大作业
摘要: 作业要求来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339 本案例主要分析在豆瓣爬取的短评数据,数据字段包括地址、评论时间、评论内容、评价程度、用户名和投票数6个属性值,将数据上传到hdfs的hive数据仓库中进行简要分析。
阅读全文
posted @ 2019-06-16 15:42 yuui
阅读(288)
评论(0)
推荐(0)
2019年6月6日
分布式并行计算MapReduce
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3319 1.用自己的话阐明Hadoop平台上HDFS和MapReduce的功能、工作原理和工作过程。 HDFS(Hadoop Distributed File System
阅读全文
posted @ 2019-06-06 19:51 yuui
阅读(215)
评论(0)
推荐(0)
2019年5月31日
·分布式文件系统HDFS 练习
摘要: 作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3292 1.目录操作 在HDFS中为hadoop用户创建一个用户目录(hadoop用户) 在用户目录下创建一个input目录 在HDFS的根目录下创建一个名称为input
阅读全文
posted @ 2019-05-31 18:13 yuui
阅读(165)
评论(0)
推荐(0)
2019年5月12日
安装关系型数据库MySQL 安装大数据处理框架Hadoop
摘要: 作业要求来自:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3161 1.Hadoop的介绍 Hadoop最早起源于Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加
阅读全文
posted @ 2019-05-12 21:38 yuui
阅读(136)
评论(0)
推荐(0)
2019年4月28日
爬虫综合大作业
摘要: 作业要求来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3075 一.把爬取的内容保存取MySQL数据库 import pandas as pd import pymysql from sqlalchemy import cre
阅读全文
posted @ 2019-04-28 21:05 yuui
阅读(331)
评论(0)
推荐(0)
2019年4月12日
爬取全部的校园新闻
摘要: 作业来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2941 1.从新闻url获取新闻详情: 字典,anews 2.从列表页的url获取新闻url:列表append(字典) alist 3.生成所页列表页的url并获取全部新闻
阅读全文
posted @ 2019-04-12 21:30 yuui
阅读(110)
评论(0)
推荐(0)
2019年4月3日
获取一篇新闻的全部信息
摘要: 作业要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894 给定一篇新闻的链接newsUrl,获取该新闻的全部信息 标题、作者、发布单位、审核、来源 发布时间:转换成datetime类型 点击: newsUrl newsI
阅读全文
posted @ 2019-04-03 14:43 yuui
阅读(100)
评论(0)
推荐(0)
2019年3月25日
理解爬虫原理
摘要: 作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2851 1. 简单说明爬虫原理 1、发起请求 使用http库向目标站点发起请求,即发送一个Request Request包含:请求头、请求体等 Request模块缺陷:不能执行
阅读全文
posted @ 2019-03-25 17:51 yuui
阅读(197)
评论(0)
推荐(0)
2019年3月18日
中文词频统计
摘要: 作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2773 中文词频统计 1. 下载一长篇中文小说。 2. 从文件读取待分析文本。 3. 安装并使用jieba进行中文分词。 pip install jieba impor
阅读全文
posted @ 2019-03-18 21:24 yuui
阅读(198)
评论(0)
推荐(0)
2019年3月14日
复合数据类型,英文词频统计
摘要: 作业来源于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2696 1.列表,元组,字典,集合分别如何增删改查及遍历。 2.总结列表,元组,字典,集合的联系与区别。参考以下几个方面: 括号 有序无序 可变不可变 重复不可重复 存储与查
阅读全文
posted @ 2019-03-14 21:38 yuui
阅读(169)
评论(0)
推荐(0)
下一页
公告
http://cdn.acgscript.com/script/miobt/3.js?2