第九次作业

一.安装Hive

1. 下载解压重命名权限
   1. 

       

       

2. 配置环境变量  $HIVE_HOME
   1. 

       

       

3. 修改Hive配置文件 gedit
4. 配置mysql驱动
   1. 下载合适版本的mysql jar包，拷贝到/usr/local/hive/lib目录下 ls
      1. 

          

          

   2. 在mysql新建hive数据库 show databases;
      1. 

          

          

   3. 配置mysql允许hive接入  show grants for 'hive'@'localhost';
      1. 

          

          

5. 启停
   1. 启动Hadoop--启动Hive--退出Hive--停止Hadoop
      1. 

          

          

 

二、Hive操作

hive创建与查看数据库

 

 

 

 

 

mysql查看hive元数据表DBS

 

 

 

hive创建与查看表

 

 

mysql查看hive元数据表TBLS

 

 

 

 

hdfs查看表文件位置

 

 

 

 

hive删除表

 

 

 

 

mysql查看hive元数据表TBLS

 

 

 

 

hive删除数据库

 

 

 

mysql查看hive元数据表DBS 

 

 

三、hive进行词频统计

   0. 为什么要使用Hive？

• 简单、容易上手
• 为超大数据集设计的计算/扩展能力
• 统一的元数据管理
  Hive数据存放在HDFS上，元数据信息是存放在Mysql中，元数据{（表名字、表字段、表字段类型、存放在HDFS的位置）记录数据的数据。}

1. 准备txt文件
2. 启动hadoop，启动hive
3. 创建并查看文本表  create table
4. 导入文件的数据到文本表中 load data local inpath
5. 分割文本 split
6. 行转列explode
7. 统计词频group by

1.

 

 

 

 

2.

 

 

3.

 

 

 

 

4.

 

 

 

 

5.

 

 

6.

 

 

7.

 

8.准备txt文件

9.上传文件至hdfs

10.从hdfs导入文件内容到表wctext, 并查看hdfs源文件，hfds数据库文件

11.统计词频

12.词频统计结果存到数据表里，并查看表和文件

13.本地调用本地hql文件进行词频统计，将结果保存为本地文件

14.退出hive，停止hadoop

 

8、

 

 9、

 

 

 

 10、

 

 11、

 

 12、

 

 

 

 13、

 

 14、