2012年11月23日

Storm常见问题及解决方法收集【持续更新中】

摘要:以下是对个人在使用Storm过程中遇到的一些常见问题及解决方法的整理,其中部分问题的解决方法来自于网络,由于已找不到原始链接,抱歉这里没有逐一列举。 阅读全文

posted @ 2012-11-23 10:08 大圆那些事 阅读 (18542) 评论 (3) 编辑

2012年11月11日

HBase Thrift 接口的一些使用问题及相关注意事项

摘要:HBase对于非Java语言提供了Thrift接口支持,这里结合对HBase Thrift接口(HBase版本为0.92.1)的使用经验,总结其中遇到的一些问题及其相关注意事项。 阅读全文

posted @ 2012-11-11 23:21 大圆那些事 阅读 (10776) 评论 (0) 编辑

2012年11月4日

HBase集群出现NotServingRegionException问题的排查及解决方法

摘要:HBase集群在读写过程中,可能由于Region Split或Region Blance等导致Region的短暂下线,此时客户端与HBase集群进行RPC操作时会抛出NotServingRegionException异常,从而导致读写操作失败。这里根据实际项目经验,详细描述这一问题的发现及排查解决过程。 阅读全文

posted @ 2012-11-04 22:40 大圆那些事 阅读 (23047) 评论 (4) 编辑

2012年10月17日

HBase解决Region Server Compact过程占用大量网络出口带宽的问题

摘要:HBase集群(版本为0.94.0)运行过程中,发现5台Region Server的网络出口带宽经常维持在100MB/s以上,接近到网卡的极限;同时Region Server的机器load负载也很高,高峰时候能够达到30~50。本文将详细描述该问题的发现及排查解决过程。 阅读全文

posted @ 2012-10-17 10:32 大圆那些事 阅读 (7980) 评论 (5) 编辑

2012年10月16日

HBase如何合理设置客户端Write Buffer

摘要:HBase客户端API提供了Write Buffer的方式,即批量提交一批Put对象到HBase服务端。本文将结合HBase相关源码,对其进行深入介绍,分析如何在实际项目中合理设置和使用它。 阅读全文

posted @ 2012-10-16 22:17 大圆那些事 阅读 (5334) 评论 (2) 编辑

2012年10月14日

一种实时多维数据的分析及同步系统

摘要:多维分析技术是一种被广泛应用的数据分析技术,本人在实际项目中使用开源OLAP框架Mondrian及关系型数据库MySQL,尝试设计并实现了一套多维数据的分析及同步系统,以解决现有技术对于互联网上实时流动变化数据无法进行快速有效的多维度分析的问题。这里是对该方案的详细描述。 阅读全文

posted @ 2012-10-14 22:29 大圆那些事 阅读 (6978) 评论 (4) 编辑

MySQL系统配置参数优化总结【持续更新中】

摘要:个人在做项目过程中,曾对MySQL系统配置参数进行过一些调整与优化工作,例如,链接超时断开、SQL超过缓冲区长度限制、调整内存表大小限制等,这里将逐一进行梳理总结,以便后续遇到类似问题能够快速解决。 阅读全文

posted @ 2012-10-14 21:18 大圆那些事 阅读 (1006) 评论 (0) 编辑

2012年9月28日

HBase存储时间相关多列数据的两种方案

摘要:所谓“时间相关多列数据”指的是同一个Key下具有多个属性数据,并且这些数据与时间具有相关性,多数场景是该Key对应在不同时间时刻的行为数据。在实际应用中,这类数据很多,例如电子商务网站上用户最近一段时间浏览的宝贝集合、访问的URL列表等。使用HBase存储此类数据时,有以下两种常用的方案。 阅读全文

posted @ 2012-09-28 14:06 大圆那些事 阅读 (10977) 评论 (2) 编辑

2012年9月24日

HBase的Block Cache实现机制分析

摘要:本文结合HBase 0.94.1版本源码,对HBase的Block Cache实现机制进行分析,总结学习其Cache设计的核心思想。 阅读全文

posted @ 2012-09-24 18:55 大圆那些事 阅读 (13360) 评论 (4) 编辑

2012年9月8日

HBase常见问题答疑解惑【持续更新中】

摘要:本文对HBase开发及使用过程中遇到过的常见问题进行梳理总结,希望能解答新加入的HBaser们的一些疑惑。 阅读全文

posted @ 2012-09-08 11:51 大圆那些事 阅读 (7521) 评论 (3) 编辑

导航