09 Hive安装与操作

一.安装Hive

1.1 下载解压重命名权限

去 hive官网 下载 apache-hive-1.2.1-bin.tar.gz ，解压并移动到 /usr/local/ 目录下：

$ sudo tar -xzf apache-hive-1.2.1-bin.tar.gz -C /usr/local
$ cd /usr/local
$ sudo mv apache-hive-1.2.1-bin/ hive
$ sudo chown -R th_huang hive  #th_huang为终端中@前的用户名，自行修改便可

 

1.2 配置环境变量  $HIVE_HOME

使用命令 $ vim ~/.bashrc 编辑环境变量文件，在文件末尾添加以下内容：

#hive
export HIVE_HOME=/usr/local/hive
export HCAT_HOME=$HIVE_HOME/hcatalog
export HIVE_CONF=$HIVE_HOME/conf
export PATH=$PATH:$HIVE_HOME/bin

编辑完后保存并退出回到终端，使用命令 $ source ~/.bashrc 让环境变量文件生效。

 

1.3 修改Hive配置文件

使用命令 $ cd /usr/local/hive 进入到该目录，并在复制该目录下的 conf/hive-default.xml.template 为 conf/hive-site.xml ：

 $ cp conf/hive-default.xml.template conf/hive-site.xml

 $ vim conf/hive-site.xml ，修改 hive-site.xml，把原来的所有默认配置删除（原来所有命令较多，不好找，只保留4个必要属性即可），只留以下命令：

<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
  <property>
    <name>javax.jdo.option.ConnectionURL</name>
    <value>jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true</value>
    <description>JDBC connect string for a JDBC metastore</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionDriverName</name>
    <value>com.mysql.jdbc.Driver</value>
    <description>Driver class name for a JDBC metastore</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionUserName</name>
    <value>hive</value>
    <description>username to use against metastore database</description>
  </property>
  <property>
    <name>javax.jdo.option.ConnectionPassword</name>
    <value>hive</value>
    <description>password to use against metastore database</description>
  </property>
</configuration>

编辑完后保存并退出回到终端。

 

1.4 配置mysql驱动

1.4.1 下载合适版本的mysql jar包，拷贝到/usr/local/hive/lib目录下 ls

去 mysql官网 下载 mysql-connector-java-5.1.4.tar.gz ，解压并把其中的jar包复制到 /usr/local/hive/lib/ 目录下：

$ tar -xzf mysql-connector-java-5.1.4.tar.gz
$ cp mysql-connector-java-5.1.4/mysql-connector-java-5.1.4-bin.jar /usr/local/hive/lib/

1.4.2 在mysql新建hive数据库 show databases;

mysql> create database hive;

mysql> show databases;

1.4.3 配置mysql允许hive接入  show grants for 'hive'@'localhost';

mysql> grant all privileges on *.* to hive@'localhost' identified by 'hive';
mysql> flush privileges;

 

1.5启停

启动Hadoop--启动Hive--退出Hive--停止Hadoop

$ cd /usr/local/hadoop
$ sbin/start-dfs.sh
$ hive
hive> exit;

$ sbin/stop-dfs.sh

 

 

二、Hive操作

2.1 hive创建与查看数据库

2.2 mysql查看hive元数据表DBS

2.3 hive创建与查看表

2.4 mysql查看hive元数据表TBLS

2.5 hdfs查看表文件位置

2.6 hive删除表

2.7 mysql查看hive元数据表TBLS

2.8 hive删除数据库

2.9 mysql查看hive元数据表DBS 

2.10 hdfs查看表文件位置

 

 

三、hive进行词频统计

3.1 准备txt文件

3.2 启动hadoop，启动hive

3.3 创建并查看文本表  create table

3.4 导入文件的数据到文本表中 load data local inpath

3.5 分割文本 split

3.6 行转列explode

3.7 统计词频group by

3.8 准备txt文件

3.9 上传文件至hdfs

3.10 从hdfs导入文件内容到表wctext, 并查看hdfs源文件，hfds数据库文件

3.11 统计词频

3.12 词频统计结果存到数据表里，并查看表和文件

3.13 本地调用本地hql文件进行词频统计，将结果保存为本地文件

3.14 退出hive，停止hadoop

 

 

四、期末大作业开始准备 期末大作业sc.docx

学生课程分数sc.text

hdfs

HBASE

MapReduce

Hive