摘要: 一、hive用本地文件进行词频统计 1.准备本地txt文件 2.启动hadoop,启动hive 3.创建数据库,创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中。 6.查看统计结果 二、hive用HDFS上的文件进行词频统计1.准备电子书或其它大的文本文 阅读全文
posted @ 2020-12-06 20:56 胡啊六 阅读(71) 评论(0) 推荐(0) 编辑
摘要: 1.任务: 列出HBase所有的表的相关信息,例如表名; 在终端打印出指定的表的所有记录数据; 向已经创建好的表添加和删除指定的列族或列; 清空指定的表的所有记录数据; 统计表的行数。 2.关系型数据库中的表和数据(教材P92上),要求将其转换为适合于HBase存储的表并插入数据。 3. 编程完成以 阅读全文
posted @ 2020-11-22 17:43 胡啊六 阅读(128) 评论(0) 推荐(0) 编辑
摘要: 1.词频统计 下载喜欢的电子书或大量文本数据,并保存在本地文本文件 编写map与reduce函数 本地测试map与reduce 将文本数据上传至HDFS上 用hadoop streaming提交任务 查看运行结果 计算结果取回到本地 阅读全文
posted @ 2020-11-06 16:48 胡啊六 阅读(79) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2020-10-23 14:07 胡啊六 阅读(106) 评论(0) 推荐(0) 编辑
摘要: 1.HDFS体系结构,工作原理流程图。 2.伪分布式安装Hadoop。 阅读全文
posted @ 2020-10-16 16:46 胡啊六 阅读(89) 评论(0) 推荐(0) 编辑
摘要: 了解对比Hadoop不同版本的特性,可以用图表的形式呈现。Hadoop主要分为2个版本,分别为Hadoop1.0和2.0。2.0是1.0的升级版,Apache Hadoop是一款支持数据密集型分布式应用并以Apache 2.0许可协议发布的开源软件框架,被称为社区版Hadoop。他是免费的,而且资料 阅读全文
posted @ 2020-09-19 13:37 胡啊六 阅读(111) 评论(0) 推荐(0) 编辑
摘要: 1.了解微信、微博、小视频每天产生的数据量与数据类型。 答:微信、微博、小视频每天产生的数据量主要由图片,视频,语音,表情包等产生,当我们查阅公众号文章,刷朋友圈,听语音时,都会产生大量的数据,少到几KB,多到几十M,而我国人口众多,每天产生的数据量在全国可排前几名。 2.选择一个你感兴趣的领域应用 阅读全文
posted @ 2020-09-12 12:24 胡啊六 阅读(168) 评论(0) 推荐(0) 编辑