摘要： 使用sqoop进行将Hive词频统计的结果数据传输到Mysql中。 mysql准备接受数据的数据库与表 hive准备待传输的数据 sqoop进行数据传输 mysql查看传输结果 阅读全文

摘要： 一、hive用本地文件进行词频统计 1.准备本地txt文件 2.启动hadoop，启动hive 3.创建数据库，创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中。 6.查看统计结果 二、hive用HDFS上的文件进行词频统计 文本文件采用之前下载下来的小 阅读全文

摘要： 1.任务： 列出HBase所有的表的相关信息，例如表名 在终端打印出指定的表的所有记录数据 向已经创建好的表添加和删除指定的列族或列 清空指定的表的所有记录数据 统计表的行数 2.关系型数据库中的表和数据（教材P92上)，要求将其转换为适合于HBase存储的表并插入数据。 3. 编程完成指定功能（教 阅读全文

摘要： 1 词频统计 a.下载喜欢的电子书或大量文本数据，并保存在本地文本文件中 b.编写map与reduce函数 mapper.py reducer.py c.本地测试map与reduce d.将文本数据上传至HDFS上 e.用hadoop streaming提交任务 f.查看运行结果 g.计算结果取回到 阅读全文

摘要： 本地文件系统创建一个文件，输入带姓名学号信息。 查看新建文件所在目录 查看新建文件内容 将此文件上传到HDFS文件系统上的用户目录 HDFS上查看相应目录 HDFS上查看文件内容 删除本地1步骤创建的文件 将HDFS上的文件下载到本地 查看本地文件目录 阅读全文

摘要： 1.用自己的图，描述HDFS体系结构、工作原理与流程。 图1 HDFS体系结构 图2 HDFS工作原理 图3 HDFS数据读取流程 图4 HDFS写入数据流程 2.伪分布式安装Hadoop。 阅读全文

摘要： 阅读全文

摘要： 1.了解对比Hadoop不同版本的特性，可以用图表的形式呈现 2.Hadoop生态的组成、每个组件的作用、组件之间的相互关系，以图例加文字描述呈现 3.官网学习Hadoop的安装与使用，用文档的方式列出步骤与注意事项 创建Hadoop用户：创建新用户，修改密码，为hadoop用户添加管理员权限 安装 阅读全文

摘要： 1.了解微信、微博、小视频每天产生的数据量与数据类型经过个人大致计算，微信的每日数据量大概有10PB左右，数据类型包括有线上聊天、视频通话、通知和推送、微信钱包等而微博的每日数据量能够达到约20PB,数据类型包括有通知推送、博文的转发评论点赞、各种视频或者文章等小视频则是当今社会上颇为热门的新领域， 阅读全文