摘要: 一.安装Hive 下载解压重命名权限 配置环境变量 修改Hive配置文件 配置mysql驱动 下载合适版本的mysql jar包,拷贝到/usr/local/hive/lib目录下 在mysql新建hive数据库 配置mysql允许hive接入 启停 启动Hadoop--启动Hive--退出Hive 阅读全文
posted @ 2021-12-10 08:37 Laune 阅读(25) 评论(0) 推荐(0) 编辑
摘要: WordCount程序任务: 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数(频数), 并按照单词字母顺序排序, 每个单词和其频数占一行,单词和频数之间有间隔 1.用你最熟悉的编程环境,编写非分布式的词频统计程序。 # -*- coding:utf-8 阅读全文
posted @ 2021-11-23 11:46 Laune 阅读(61) 评论(0) 推荐(0) 编辑
摘要: 1.理解HBase表模型及四维坐标:行键、列族、列限定符和时间戳。 表:HBase采用表来组织数据,表由行和列组成,列划分为若干个列族 行键:每个HBase表都由若干行组成,每个行由行键(row key)来标识。在表里面,每一行代表着一个数据对象。每一行都是由一个行键(Row Key)和一个或者多个 阅读全文
posted @ 2021-11-05 09:30 Laune 阅读(90) 评论(0) 推荐(0) 编辑
摘要: 1.下载压缩文件 2.解压 3.修改文件夹名 4.修改文件夹权限 5.配置环境变量 6.伪分布式配置文件 7.启动HDFS,启动Hbase 8.进入shell界面 9.停止Hbase,停止HDFS运行 阅读全文
posted @ 2021-11-02 09:40 Laune 阅读(26) 评论(0) 推荐(0) 编辑
摘要: 一、在Ubuntu系统中安装和配置Eclipse 二、利用hadoop 的java api,向HDFS写一个文件。 三、从HDFS读取一个文件的内容 阅读全文
posted @ 2021-10-29 11:05 Laune 阅读(19) 评论(0) 推荐(0) 编辑
摘要: 1.用图与自己的话,简要描述Hadoop起源与发展阶段。(作业3中剪过来) Hadoop的起源 Hadoop由 Apache Software Foundation 公司于 2005 年秋天作为Lucene的子项目Nutch的一部分正式引入。它的关键技术和核心思想来源于 Google Lab 开发的 阅读全文
posted @ 2021-10-22 11:35 Laune 阅读(77) 评论(0) 推荐(0) 编辑
摘要: 1.实验目的• 为后续上机实验做准备,熟悉常用的Linux操作和Hadoop操作。2.实验平台操作系统:LinuxHadoop版本:2.7.13.实验内容和要求(一)熟悉常用的Linux操作请按要求上机实践如下linux基本命令。cd命令:切换目录(1) 切换到目录 /usr/local cd us 阅读全文
posted @ 2021-09-25 13:26 Laune 阅读(125) 评论(0) 推荐(0) 编辑
摘要: 1、下载完成后 输入命令“ls”的运行成功截图: 2、成功配置好java环境的截图: 3、安装好hadoop后的截图: 阅读全文
posted @ 2021-09-19 19:51 Laune 阅读(34) 评论(0) 推荐(0) 编辑
摘要: 1.为什么产生大数据技术? 每天人们都会接触数据,传统的数据存储技术已经容纳不下庞大数据数量。随着科学技术的发展,数据的运用以及存储方式也更加的多样化和信息化,从而产生了一种更先进的技术:大数据技术,它能让我们的生活更加便捷。 2.为什么要学习大数据技术? 因为大数据技术是的新兴产业,具有相当丰富的 阅读全文
posted @ 2021-09-07 21:42 Laune 阅读(67) 评论(1) 推荐(2) 编辑