Hive的安装配置

  1. 角色分工:

    master角色:hive客户端
    slave1角色:hive服务器
    slave2角色:安装mysql

  2. slave2角色:安装mysql
    1. 安装wget
      yum -y install wget
    2. 下载mysql的repo源
      wget http://repo.mysql.com/mysql57-community-release-el7-9.noarch.rpm
    3. rpm安装mysql的repo源
      rpm -ivh mysql57-community-release-el7-9.noarch.rpm
    4. 安装mysql
      yum install mysql-community-server
    5. 查看安装的mysql版本
      mysql -V
    6. 加载修改过的所有配置systemctl daemon-reload
      启动服务(并设置开机启动)
      systemctl start mysqld
      systemctl enable mysqld
      
    7. 登录mysql
      默认安装mysql,root有密码,查看mysql的root用户的密码:
      grep "temporary password" /var/log/mysqld.log

      登录mysql,输入命令mysql -hlocalhost -uroot -p[查到的密码]
      修改root用户的密码

      修改msyql的密码安全策略
      set global validate_password_policy=0;
      设置密码长度
      set global validate_password_length=4;
      修改root用户的密码
      alter user 'root'@'localhost' identified by '123456';
      这是退出mysql再登录时密码就是123456了

    8. 设置远程登录(mysql下操作)

      创建一个远程登录的用户
      create user 'root'@'%' identified by '123456';(这里'%'即为代表设置远程登录的标志)
      授予权限
      grant all privileges on . to 'root'@'%' with grant option;
      刷新权限
      flush privileges;

  3. master和slave1角色都需要安装Hive
    • slave1角色安装hive服务器端
      1. 创建安装目录
        mkdir /usr/hive
      2. 解压安装包
        tar -zxvf /root/software/apache-hive-2.1.1-bin.tar.gz -C /usr/hive/
      3. 复制到master
        scp -r /usr/hive root@master:/usr/
      4. 修改配置文件/etc/profile(master和slave1角色都要修改)
        #hive envirment
        export HIVE_HOME=/usr/hive/apache-hive-2.1.1-bin
        export PATH=$PATH:$HIVE_HOME/bin
        
        不启动生效source /etc/profile
      5. slave1下Hive服务器配置
        1. 将mysql的驱动程序复制到slave1的hive安装目录的lib目录中
          cp /root/software/mysql-connector-java-5.1.5-bin.jar /usr/hive/apache-hive-2.1.1-bin/lib/
        2. 修改配置文件hive-env.sh

          通过复制获得hive-env.sh文件
          cp /usr/hive/apache-hive-2.1.1-bin/conf/hive-env.sh.template /usr/hive/apache-hive-2.1.1-bin/conf/hive-env.sh
          修改vi /usr/hive/apache-hive-2.1.1-bin/conf/hive-env.sh设置HADOOP_HOME的值
          HADOOP_HOME=/usr/hadoop/hadoop-2.7.3

        3. 修改hive-site.xml文件
          vi /usr/hive/apache-hive-2.1.1-bin/conf/hive-site.xml
          <configuration>
              <!-- Hive产生的元数据存放位置-->
              <property>
                  <name>hive.metastore.warehouse.dir</name>
                  <value>/user/hive_remote/warehouse</value>
              </property>
              <!--数据库连接JDBC的URL地址 -->
              <property>
                  <name>javax.jdo.option.ConnectionURI</name>
                  <value>jdbc:mysql://slave2:3306/hive?createDatabaseIfNotExist=true</value>
              </property>
              <!-- 数据库连接driver,即MySQL驱动-->
              <property>
                  <name>javax.jdo.option.ConnectionDriverName</name>
                  <value>com.mysql.jdbc.Driver</value>
              </property>
              <!-- MySQL数据库用户名-->
              <property>
                  <name>javax.jdo.option.ConnectionUserName</name>
                  <value>root</value>
              </property>
              <!-- MySQL数据库密码-->
              <property>
                  <name>javax.jdo.option.ConnectionPassword</name>
                  <value>123456</value>
              </property>
              <property>
                  <name>hive.metastore.schema.verification</name>
                  <value>false</value>
              </property>
              <property>
                  <name>datanucleus.schema.autoCreateAll</name>
                  <value>true</value>
              </property>
          </configuration>
          
    • master下hive客户端配置
      1. 版本冲突和jar包依赖问题
        cp /usr/hive/apache-hive-2.1.1-bin/lib/jline-2.12.jar /usr/hadoop/hadoop-2.7.3/share/hadoop/yarn/lib/
      2. 修改hive-env.sh配置文件

        通过复制获得hive-env.sh文件:
        cp /usr/hive/apache-hive-2.1.1-bin/conf/hive-env.sh.template /usr/hive/apache-hive-2.1.1-bin/conf/hive-env.sh
        修改:vi /usr/hive/apache-hive-2.1.1-bin/conf/hive-env.sh设置HADOOP_HOME的值
        HADOOP_HOME=/usr/hadoop/hadoop-2.7.3

      3. 修改hive-site.xml文件
        vi /usr/hive/apache-hive-2.1.1-bin/conf/hive-site.xml
        <configuration>
            <!-- Hive产生的元数据存放位置-->
            <property>
                <name>hive.metastore.warehouse.dir</name>
                <value>/user/hive_remote/warehouse</value>
            </property>
            <!--使用本地服务连接Hive,默认为true -->
            <property>
                <name>hive.metastore.local</name>
                <value>false</value>
            </property>
            <!-- 连接服务器-->
            <property>
                <name>hive.metastore.uris</name>
                <value>thrift://slave1:9083</value>
            </property>
        </configuration>
        
  4. Hive启动与关闭
    1. 时间同步,启动zookeeper,启动hadoop,启动hbase
    2. Hive启动与关闭

      slave1下启动服务器会卡在启动状态下
      /usr/hive/apache-hive-2.1.1-bin/bin/hive --service metastore(使用远程的metastore可以和hive客户端不在一个机器上)
      master下启动客户端会进入到hive命令下
      /usr/hive/apache-hive-2.1.1-bin/bin/hive

      • hive命令下执行测试
        show databases
        退出hive客户端quit;(exit;)
        退出hive服务器ctrl+z
    3. 关闭hive后立即启动失败
      使用远程的metastore启动hive服务器会启动Runjar进程并占用端口,ctrl+z关闭hive服务器后Runjar进程并不会关闭
      如需启动hive则需杀死进程Runjar,使用命令kill -9 进程号
posted @ 2021-10-28 22:13  边缘之地  阅读(54)  评论(0)    收藏  举报