摘要: 一.安装Hive 下载解压重命名权限 配置环境变量 $HIVE_HOME 修改Hive配置文件 gedit 配置mysql驱动 下载合适版本的mysql jar包,拷贝到/usr/local/hive/lib目录下 ls 在mysql新建hive数据库 show databases; 配置mysql 阅读全文
posted @ 2021-12-13 18:03 Mango-0 阅读(17) 评论(0) 推荐(0) 编辑
摘要: 1.编写map函数,reduce函数 首先在/home/hadoop路径下建立wc文件夹,在wc文件夹下创建文件mapper.py和reducer.py cd /home/hadoopmkdir wccd /home/hadoop/wctouch mapper.py1touch reducer.py 阅读全文
posted @ 2021-11-23 14:40 Mango-0 阅读(47) 评论(0) 推荐(0) 编辑
摘要: 1.理解HBase表模型及四维坐标:行键、列族、列限定符和时间戳。 表:HBase采用表来组织数据,表由行和列组成,列划分为若干个列族。行:每个HBase表都由若干行组成,每个行由行键(row key)来标识。列族:一个HBase表被分组成许多“列族”(Column Family)的集合,它是基本的 阅读全文
posted @ 2021-11-09 14:06 Mango-0 阅读(39) 评论(0) 推荐(0) 编辑
摘要: 1.下载压缩文件 2.解压 3修改文件夹名 4.修改文件夹权限 5.配置环境变量 6.伪分布式配置文件 7.启动HDFS,启动Hbase 8.进入shell界面 9.停止Hbase,停止HDFS运行 阅读全文
posted @ 2021-11-02 15:21 Mango-0 阅读(10) 评论(0) 推荐(0) 编辑
摘要: 一、在Ubuntu系统中安装和配置Eclipse 二、利用hadoop 的java api,向HDFS写一个文件。 三、从HDFS读取一个文件的内容 阅读全文
posted @ 2021-10-29 15:17 Mango-0 阅读(21) 评论(0) 推荐(0) 编辑
摘要: 一、Hadoop起源与发展 Hadoop是道格·卡丁(Doug Cutting)创建的,Hadoop起源于开源网络搜索引擎Apache Nutch,后者本身也是Lucene项目的一部分。Nutch项目面世后,面对数据量巨大的网页显示出了架构的灵活性不够。当时正好借鉴了谷歌分布式文件系统,做出了自己的 阅读全文
posted @ 2021-10-22 14:56 Mango-0 阅读(84) 评论(0) 推荐(0) 编辑
摘要: 《大数据应用技术》实验1 第二章 熟悉常用的Linux操作和Hadoop操作 1.实验目的 为后续上机实验做准备,熟悉常用的Linux操作和Hadoop操作。 2.实验平台 操作系统:Linux Hadoop版本:2.7.1 3.实验内容和要求 (一)熟悉常用的Linux操作 请按要求上机实践如下l 阅读全文
posted @ 2021-09-26 23:08 Mango-0 阅读(23) 评论(0) 推荐(0) 编辑
摘要: 1.安装虚拟机 下载 01 VirtualBox-6.1.16-140961-Win.exe,并安装完成。 2.安装Linux操作系统 下载02 ubuntukylin-16.04-desktop-amd64.iso,并完成安装。 在线安装教程http://dblab.xmu.edu.cn/blog 阅读全文
posted @ 2021-09-17 22:26 Mango-0 阅读(77) 评论(0) 推荐(0) 编辑
摘要: 1.为什么会产生大数据技术? 大数据的产生具有天时地利人和的有利条件。天时:大数据的产生具有时间上的连续性。以往的数据都是与一定的运营活动相伴出现的,并且需要进行专门的存储阶段。这个时期的数据是被动产生的,这些数据是运营式的传统数据。但是在大数据时代,随着计算机技术、云计算存储技术和自媒体技术的迅猛 阅读全文
posted @ 2021-09-10 15:25 Mango-0 阅读(309) 评论(0) 推荐(0) 编辑