2021年12月10日
摘要: 一.安装Hive 下载解压重命名权限 配置环境变量 $HIVE_HOME 修改Hive配置文件 gedit 配置mysql驱动 下载合适版本的mysql jar包,拷贝到/usr/local/hive/lib目录下 在mysql新建hive数据库 show databases; 配置mysql允许h 阅读全文
posted @ 2021-12-10 08:18 _Pillar 阅读(20) 评论(0) 推荐(0) 编辑
2021年11月28日
摘要: WordCount程序任务: 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数(频数), 并按照单词字母顺序排序, 每个单词和其频数占一行,单词和频数之间有间隔 1.用你最熟悉的编程环境,编写非分布式的词频统计程序。 读文件 分词(text.split列表 阅读全文
posted @ 2021-11-28 11:38 _Pillar 阅读(16) 评论(0) 推荐(0) 编辑
2021年11月5日
摘要: 1.理解HBase表模型及四维坐标:行键、列族、列限定符和时间戳。 表:HBase采用表来组织数据,表由行和列组成,列划分为若干个列族行:每个HBase表都由若干行组成,每个行由行键来标识列族:一个HBase表被分组成许多列族的集合,它是基本的访问控制单元列限定符:列族里的数据通过列限定符,或列来定 阅读全文
posted @ 2021-11-05 09:12 _Pillar 阅读(40) 评论(0) 推荐(0) 编辑
2021年11月2日
摘要: 1.下载压缩文件 2.解压 3.修改文件夹名 4.修改文件夹权限 5.配置环境变量 6.伪分布式配置文件 7.启动HDFS,启动Hbase 8.进入shell界面 9.停止Hbase,停止HDFS运行 阅读全文
posted @ 2021-11-02 10:09 _Pillar 阅读(16) 评论(0) 推荐(0) 编辑
2021年10月29日
摘要: 一、在Ubuntu系统中安装和配置Eclipse 二、利用hadoop 的java api,向HDFS写一个文件。 三、从HDFS读取一个文件 阅读全文
posted @ 2021-10-29 09:35 _Pillar 阅读(32) 评论(0) 推荐(0) 编辑
2021年10月22日
摘要: 1.用图与自己的话,简要描述Hadoop起源与发展阶段。(作业3中剪过来) Hadoop是道格·卡丁(Doug Cutting)创建的,Hadoop是世界上最大的富豪Apache捐助的分布式系统基础架构。该框架由java语言设计实现,用以实现在大量计算机组成的集群中对海量数据进行分布式计算。Hado 阅读全文
posted @ 2021-10-22 09:31 _Pillar 阅读(45) 评论(0) 推荐(0) 编辑
2021年9月26日
摘要: 《大数据应用技术》实验1 第二章 熟悉常用的Linux操作和Hadoop操作 1.实验目的 为后续上机实验做准备,熟悉常用的Linux操作和Hadoop操作。 2.实验平台 操作系统:Linux Hadoop版本:2.7.1 3.实验内容和要求 (一)熟悉常用的Linux操作 请按要求上机实践如下l 阅读全文
posted @ 2021-09-26 20:42 _Pillar 阅读(62) 评论(0) 推荐(0) 编辑
摘要: 资源链接: https://pan.baidu.com/s/1YhiGBudtYMp_CdGm_x7ORQ 提取码: 4p6r 1.安装虚拟机 下载 01 VirtualBox-6.1.16-140961-Win.exe,并安装完成。 2.安装Linux操作系统 下载02 ubuntukylin-1 阅读全文
posted @ 2021-09-26 18:18 _Pillar 阅读(25) 评论(0) 推荐(0) 编辑
2021年9月8日
摘要: 1.为什么产生大数据技术? 产生大数据的因素:存储成本的下降;运行、计算速度越来越快;智慧,我们渴望解放脑劳动力。 在云计算出现之前,数据存储的成本是非常高的。云计算出现后,数据存储服务衍生出了新的商业模式,集中建设数据中心大大的降低了单位计算和存储成本。随着互联网的普及及网络技术的发展,加上硬件性 阅读全文
posted @ 2021-09-08 23:19 _Pillar 阅读(72) 评论(0) 推荐(0) 编辑