一次snapshot迁移引发的Hbase RIT(hbase2.1.0-cdh6.3.0)

 

1. 问题起因

通过snapshot做跨集群数据同步时,在执行拷贝脚本里没有指定所有者及所有组,导致clone时没有权限,客户端卡死。master一直报错,经过一系列操作后,导致RIT异常。

2. 异常记录

  • 不指定所有者,默认权限是hdfs:hbase,会导致异常

  • 执行clone_snapshot <snapshot_name>,<table_name>时,master异常信息

  • 经过一系列操作后(重启、删除hdfs相关目录)出现了RIT:

 

 

  

3. 解决过程

因之前使用hbase1.2.6版本可以通过hbck做修复,但habse2.0之后,大多hbck命令已经无法使用

 

  • 于是尝试其他操作:

1)通过删除hdfs相关目录及zk下hbase目录等操作无效

2)删除hbase:meta表中相关表记录无效

3)删除zk下hbase目录,重启无效

4. 最终通过hbck2解决

由于HBCK2已经被剥离出HBase成为了一个单独的项目,如果你想要使用这个工具,需要根据自己HBase的版本,编译源码。

GitHub地址为:https://github.com/apache/hbase-operator-tools.git

1)下载后在项目根目录下编译:mvn clean install -DskipTests(普通方式编译会报错)

现在使用的版本是hbase2.1.0版本,不支持编译hbck2,所以使用的默认hbase2.1.6编译完成,在hase-hbck2的target目录下可以找到我们最后需要的jar

 

 

  • 使用方法:

hbase hbck -j ./hbase-hbck2-1.1.0-SNAPSHOT.jar <命令>

2)使用assigns方法解决 RIT

hbase hbck -j ./hbase-hbck2-1.1.0-SNAPSHOT.jar unassigns <regionname>

将一个或多个region unassign,返回值是创建的pid则为成功,-1则为失败。

在hbase页面找到rit相关的regionname

  • 执行命令,如图返回进程号为1819

  • master日志:

  • 可以看到rit数减少了一个

  • 重复以上操作,rit解决!

3)在hbase界面上找到Procedure相关进程id释放

hbase hbck -j ./hbase-hbck2-1.1.0-SNAPSHOT.jar bypass <Procedure id>

当rit显示后,hbase依然不正常,hbaseshell无法操作,使用hbase hbck检查显示 Master is initializing

 

  • 执行后返回true代表成功,页面会显示RUNNABLE(Bypass)

  

  • 可以看到当前procedure还有很多子进程

  • 经过大约一小时之后,进程才结束

  • 此时页面也显示完成

  • 随后消失

  • 此时,检查hbase,hbase hbck,显示OK,解决过程到此结束!

 

posted @ 2020-11-06 20:06  小跑、追幸福  阅读(584)  评论(0编辑  收藏  举报