摘要: 使用sqoop进行将Hive词频统计的结果数据传输到Mysql中。 1.mysql准备接受数据的数据库 2.hive准备待传输的数据 3.sqoop进行数据传输 4.mysql查看传输结果 阅读全文
posted @ 2021-01-11 14:21 GWDW 阅读(43) 评论(0) 推荐(0) 编辑
摘要: 一、hive用本地文件进行词频统计 1.准备本地txt文件 2.启动hadoop,启动hive 3.创建数据库,创建文本表 4.映射本地文件的数据到文本表中 5.hql语句进行词频统计交将结果保存到结果表中。 6.查看统计结果 二、hive用HDFS上的文件进行词频统计1.准备电子书或其它大的文本文 阅读全文
posted @ 2021-01-11 14:20 GWDW 阅读(25) 评论(0) 推荐(0) 编辑
摘要: 1.任务: 列出HBase所有的表的相关信息,例如表名; 在终端打印出指定的表的所有记录数 向已经创建好的表添加和删除指定的列族或列; 清空指定的表的所有记录数据; 统计表的行数; 关系型数据库中的表和数据(教材P92上),要求将其转换为适合于HBase存储的表并插入数 编程完成以下指定功能(教材P 阅读全文
posted @ 2021-01-11 14:17 GWDW 阅读(44) 评论(0) 推荐(0) 编辑
摘要: 1、词频统计 编写map与reduce函数 本地测试map与reduce 下载喜欢的电子书或大量文本数据,并保存在本地文本文件中 将文本数据上传至HDFS上 用hadoop streaming提交任务 查看运行结果 计算结果取回到本地 阅读全文
posted @ 2021-01-11 14:10 GWDW 阅读(52) 评论(0) 推荐(0) 编辑
摘要: 1.本地文件系统创建一个文件,输入带姓名学号信息。 2.查看新建文件所在目录 3.查看新建文件内容 4.将此文件上传到HDFS文件系统上的用户目录 5.HDFS上查看相应目录 6.HDFS上查看文件内容 7.HDFS上查看文件大小 8.删除本地1步骤创建的文件 9.将HDFS上的文件下载到本地 10 阅读全文
posted @ 2021-01-11 14:08 GWDW 阅读(52) 评论(0) 推荐(0) 编辑
摘要: 用自己的图描述HDFS体系结构、工作原理与流程伪分 2.伪分布式安装Hadoop 阅读全文
posted @ 2021-01-11 14:06 GWDW 阅读(44) 评论(0) 推荐(0) 编辑
摘要: 阅读全文
posted @ 2021-01-11 13:58 GWDW 阅读(28) 评论(0) 推荐(0) 编辑
摘要: 1.Spark,是分布式计算平台,是一个用scala语言编写的计算框架,基于内存的快速、通用、可扩展的大数据分析引擎 Hadoop,是分布式管理、存储、计算的生态系统;包括HDFS(存储)、MapReduce(计算)、Yarn(资源调度) 2. 目前,hadoop社区有几个不同的分支版本,各个版本之 阅读全文
posted @ 2020-09-19 21:54 GWDW 阅读(60) 评论(0) 推荐(0) 编辑
摘要: 微信、微博、小视频每天产生的数据量与数据类型 答:微信目前的产生的数据量为大于11亿,数据类型为String、Number、Object、Date、Geo 微博目前产生的数据量为4.86亿,数据类型为web、type 小视频每天产生的数据量超过四亿 选择一个你感兴趣的领域应用数据思维进行分析决策的案 阅读全文
posted @ 2020-09-12 18:57 GWDW 阅读(101) 评论(0) 推荐(0) 编辑