Harda

2022年2月26日

摘要： 1、修改配置文件hbase-site.xml，添加以下内容 <property> <name>hbase.security.authorization</name> <value>true</value> </property> <property> <name>hbase.rpc.engine</ 阅读全文

posted @ 2022-02-26 14:59 Harda 阅读(664) 评论(0) 推荐(0)

测试环境hbase集群异常

摘要：集群共三台主机，两个数据节点，hbase共有两个regionserver 1）存在的问题 8月6日晚九点半，测试集群两个regionserver同时异常，hbase除了list以外的操作都不能执行，观察master和regionserver的日志，都出现了如下报错：（2）分析过程从日志中暂时未分阅读全文

posted @ 2022-02-26 14:50 Harda 阅读(76) 评论(0) 推荐(0)

Hbase建立容灾备份机制步骤

摘要：集群信息：生产集群(主）：31台（3管理节点+28数据节点） zk部署地址：10.105.54.11-13 容灾集群（从）：10台（3管理节点+7数据节点） zk部署地址：10.114.196.194-10.114.196.196 前期准备条件： 1、配置生产与容灾主机hosts 2、添加repl 阅读全文

posted @ 2022-02-26 14:42 Harda 阅读(145) 评论(0) 推荐(0)

hbase的archive和WALs目录下自动清理失效

摘要：问题现象：archive和WALs目录快速上涨，导至hdfs存储量到达告警上限问题分析：archive和WALs目录下自动清理失效解决步骤： 1、查看master日志，看看是否有错误信息，如下图，情况为内存溢出，无法新建线程，需上调master内存堆 2、调整hbase-env.sh参数，将根阅读全文

posted @ 2022-02-26 14:27 Harda 阅读(850) 评论(1) 推荐(0)

ycsb工具之hbase测试

摘要：集群环境：临时搭建一套集群（3台虚拟机）下载ycsb工具包：ycsb-0.12.0.tar.gz 下载地址： https://github.com/brianfrankcooper/YCSB/releases/tag/0.12.0 安装步骤： 1、解压安装包 tar zxvf ycsb-0.1 阅读全文

posted @ 2022-02-26 14:25 Harda 阅读(302) 评论(0) 推荐(0)

2022年2月25日

hbase集群不一致处理处理的经典案例

摘要：一、场景一集群信息： 7台管理节点+51台数据节点 ###此为一套多租户集群问题描述： 4月13 10:30 其中一台数据节点因硬件故障，突然宕机，同时业务出现入库缓慢现象故障检查： hbase hbck ###检查hbase健康情况，结果为:INCONSISTENT,不一致的记录共80条故阅读全文

posted @ 2022-02-25 15:17 Harda 阅读(1211) 评论(0) 推荐(0)

hadoop业务积压分析及处理

摘要：一、现象：2021年5月12日，17:05分，业务处理能量下降，开始积压二、集群指标检查运行脚本检查各项指标，发现2个指标异常如下 1、17点后每个节点出现大量的slow 2、发现每台主机的底层IO等待较高三、问题分析 1、17:05其中一台数据节点磁盘故障，datanode掉线，此节点的数据阅读全文

posted @ 2022-02-25 15:11 Harda 阅读(98) 评论(0) 推荐(0)

hadoop集群spark作业执行较慢、入库较慢相关问题排查及调优

摘要： 1、反馈业务侧反馈日常进行spark作业跑不动，执行速度特别慢，影响当天任务生成，后续活动执行；主要现象及影响： 1、regionserver频繁挂，日志出现大量gc信息 2、spark类型的作业跑得慢，跟业务一起做测试定位原因，发现主要是hbase get比较耗时 3、标签入库较慢（将数据pu 阅读全文

posted @ 2022-02-25 14:19 Harda 阅读(1288) 评论(0) 推荐(0)

2022年2月23日

yarn的hive作业卡住

摘要： 01/24晚业务侧反应有一个应该白天完成的作业一直跑到了十点多还没结束，立即检查了yarn监控页面，并未发现资源（包括vcore及队列资源等）不足的情况查看作业的详细日志，发现作业卡在三点多一直并未更新查看作业ApplicationMaster，发现mapreduce已经成功跑完，怀疑表有锁经阅读全文

posted @ 2022-02-23 13:48 Harda 阅读(447) 评论(0) 推荐(0)

2022年2月22日

Hadoop集群regionserver节点故障

摘要：全触点Hadoop集群出现regionserver频繁掉的现象，大部分掉的都是140的regionserver节点，查看日志后发现两处信息查看相关主机信息并无异常，日志信息显示由于与zk的session超时，查看MaxSessionTimeout、zookeeper.session.timeout 阅读全文

posted @ 2022-02-22 21:28 Harda 阅读(88) 评论(0) 推荐(0)

公告