摘要: 一.安装Hive 下载解压重命名权限 配置环境变量 $HIVE_HOME 修改Hive配置文件 gedit 配置mysql驱动 下载合适版本的mysql jar包,拷贝到/usr/local/hive/lib目录下 ls 在mysql新建hive数据库 show databases; 配置mysql 阅读全文
posted @ 2021-12-14 18:29 xyzhang001130 阅读(44) 评论(0) 推荐(0) 编辑
摘要: 1.WordCount程序任务: 程序 WordCount 输入 一个包含大量单词的文本文件 输出 文件中每个单词及其出现次数(频数), 并按照单词字母顺序排序, 每个单词和其频数占一行,单词和频数之间有间隔 在Ubuntu中实现运行。 准备txt文件 编写py文件 python3运行py文件分析t 阅读全文
posted @ 2021-11-25 15:27 xyzhang001130 阅读(107) 评论(0) 推荐(0) 编辑
摘要: 1.理解HBase表模型及四维坐标:行键、列族、列限定符和时间戳。 2.启动HDFS,启动HBase,进入HBaseShell命令行。 3.列出HBase中所有的表信息list 4.创建表create 5.查看表详情desc 6.插入数据put 7.查看表数据scan,get 8.多版本实验:修改列 阅读全文
posted @ 2021-11-09 17:11 xyzhang001130 阅读(69) 评论(0) 推荐(0) 编辑
摘要: 1.下载压缩文件 2.解压 3.修改文件夹名 4.修改文件夹权限 5.配置环境变量 6.伪分布式配置文件 1.下载压缩文件 2.解压 . 3.修改文件夹名 4.修改文件夹权限 5.配置环境变量 6.伪分布式配置文件 打开ssh 打开hbase 进入和退出hbase shell界面 先关闭Hbase再 阅读全文
posted @ 2021-11-02 15:24 xyzhang001130 阅读(44) 评论(0) 推荐(0) 编辑
摘要: 一、在Ubuntu系统中安装和配置Eclipse 二、利用hadoop 的java api,向HDFS写一个文件。写入内容含自己的姓名学号信息。 三、从HDFS读取一个文件的内容并显示。 一、在Ubuntu系统中安装和配置Eclipse 1.打开eclipse 2.新建窗口并打开hadoop 3.创 阅读全文
posted @ 2021-11-02 15:07 xyzhang001130 阅读(30) 评论(0) 推荐(0) 编辑
摘要: 1.用图与自己的话,简要描述Hadoop起源与发展阶段。(作业3中剪过来) 2.用图与自己的话,简要描述名称节点、数据节点的主要功能及相互关系、名称节点的工作机制。 3.分别从以下这些方面,梳理清楚HDFS的 结构与运行流程,以图的形式描述。 客户端与HDFS 客户端读 客户端写 数据结点与集群 数 阅读全文
posted @ 2021-10-24 16:41 xyzhang001130 阅读(74) 评论(0) 推荐(0) 编辑
摘要: 1.用图与自己的话,简要描述Hadoop起源与发展阶段。 从与谷歌系统的关系,关键时间节点,1.x,2.x与3.x的区别,不同公司发行版本等方面来讲。 起源与发展阶段: Hadoop最早起源于lucene下的Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能 阅读全文
posted @ 2021-10-24 16:26 xyzhang001130 阅读(29) 评论(0) 推荐(0) 编辑
摘要: (一)熟悉常用的Linux操作 (二)熟悉使用MySQL shell操作 (三)熟悉Hadoop及其操作 35.一个操作案例: 36.设置Hadoop环境变量,在本地用户主目录下启动hdfs,查看hdfs用户主目录,停止hdfs。 阅读全文
posted @ 2021-09-25 15:26 xyzhang001130 阅读(40) 评论(0) 推荐(0) 编辑
摘要: 1.为什么产生大数据技术? 答: 1. 存储成本的大幅下降。新型的数据存储服务出现后,衍生了很多新的商业模式,集中建设数据中心,大大降低了单位计算和存储的成本。现在建造网站已经不需要购买服务器,也不需要聘用管理人员,通过大数据云计算的商业模式即可获得资源,而存储成本的下降,也改变了人们对数据的看法, 阅读全文
posted @ 2021-09-06 20:38 xyzhang001130 阅读(101) 评论(0) 推荐(0) 编辑