代码改变世界

hive2.3 remote模式安装

2018-08-31 10:37  ljinch  阅读(358)  评论(0)    收藏  举报

1.环境准备

    JDK:1.8 (jdk-8u144-linux-x64.tar.gz)
    Hadoop:2.8.4 (hadoop-2.8.4.tar.gz)
    Mysql: 5.6

   Hive: 2.3.3 ( apache-hive-2.3.3-bin.tar.gz )

两台服务器:master(hive服务端) slave(hive客户端)

  此处主要演示HIVE的安装及配置,jdk/hadoop/mysql的安装暂略。环境变量配置如下:

#Java Config
export JAVA_HOME=/usr/local/java/jdk1.8
export JRE_HOME=/usr/local/java/jdk1.8/jre
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib

# Zookeeper Config
export ZK_HOME=/usr/local/zookeeper
# HBase Config
export HBASE_HOME=/usr/local/hbase/hbase1.3
# Hadoop Config
export HADOOP_HOME=/usr/local/hadoop/hadoop2.8
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"

#hive
export HIVE_HOME=/usr/local/hive/hive2.3
export HIVE_CONF_DIR=/usr/local/hive/hive2.3/conf

export PATH=.:${JAVA_HOME}/bin:${HADOOP_HOME}/bin:${HIVE_HOME}/bin:${HADOOP_HOME}/sbin:${ZK_HOME}/bin:${HBASE_HOME}/bin:$PATH

 

2.HIVE环境安装及配置

  解压文件

 解压hive文件到/usr/local/hive/hive2.3文件夹下。

 tar -zxvf apache-hive-2.3.3-bin.tar.gz 

 mv apache-hive-2.3.3-bin hive2.3

mkdir /usr/local/hive

mv hive2.3 /usr/local/hive

修改配置文件

cd  /usr/local/hive/hive2.3/conf

修改日志文件路径

cp hive-log4j2.properties.template hive-log4j2.properties

vi hive-log4j2.properties

日志路径改为:property.hive.log.dir = /usr/local/hive/hive2.3/logs

修改hive-env.sh配置

cp hive-env.sh.template        hive-env.sh

vi hive-env.sh

增加以下配置

export HADOOP_HOME=/usr/local/hadoop/hadoop2.8
export HIVE_CONF_DIR=/usr/local/hive/hive2.3/conf
export HIVE_AUX_JARS_PATH=/usr/local/hive/hive2.3/lib

 

修改hive-site.xml配置如下:

<!-- 指定HDFS中的hive仓库地址 -->
<property>
<name>hive.metastore.warehouse.dir</name>
<value>/root/hive/warehouse</value>
</property>

<property>
<name>hive.exec.scratchdir</name>
<value>/root/hive</value>
</property>

<!-- 该属性为空表示嵌入模式或本地模式,否则为远程模式 -->
<property>
<name>hive.metastore.uris</name>
<value></value>
</property>

<!-- 指定mysql的连接 -->
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://master:3306/hive?createDatabaseIfNotExist=true</value>
</property>
<!-- 指定驱动类 -->
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
</property>
<!-- 指定用户名 -->
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>root</value>
</property>
<!-- 指定密码 -->
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>123456</value>
</property>
<property>
<name>hive.metastore.schema.verification</name>
<value>false</value>
<description>
</description>
</property>

注意:该配置为服务端配置,客户端配置中

hive.metastore.uris的value改为:
thrift://ip:9083

添加lib驱动
cd /usr/local/hive/hive2.3/lib
上传mysql驱动的jar包:mysql-connector-java-5.1.44-bin.jar

3.启动相关服务

在服务端运行:

cd /usr/local/hive/hive2.3/bin

schematool -initSchema -dbType mysql

nohup hive --service metastore &

nohup hive --service hiveserver2 &

 

在客户端运行:

hive

 

关闭的命令是
nohup hive --service metastore > metastore.log 2>&1 & jobs查看后台任务 kill %id关闭后台任务

nohup hive --service hiveserver2 > hiveserver2 .log 2>&1 & jobs查看后台任务 kill %id关闭后台任务