摘要: HBase是Apache Hadoop生态系统中的重要一员,它的海量数据存储能力,超高的数据读写性能,以及优秀的可扩展性使之成为最受欢迎的NoSQL数据库之一。它超强的插入和读取性能与它的数据组织方式有着密切的关系,在逻辑上,HBase的表数据按RowKey进行字典排序, RowKey实际上是数据表 阅读全文
posted @ 2017-05-09 22:04 nick hao 阅读(17471) 评论(0) 推荐(1) 编辑
摘要: 开涛大神在博客中说过:在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。 缓存 缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量,也是保护数据库、保护系统的有效方式。大型网站一般主要是“读”,缓存的使用很容易被想到。在大型“写”系统中... 阅读全文
posted @ 2017-05-01 17:41 nick hao 阅读(37083) 评论(3) 推荐(14) 编辑
摘要: Phoenix的插入语句是Upsert,Update和Insert的组合语义。即,如果数据表中没有这条记录那么插入这条记录,如果有则更新。判断是否存在相同的数据是使用ON DUPLICATE KEY来验证的,这里的KEY就是建表时候的主键(PRIMARY KEY)。和Oracle的Merge Int 阅读全文
posted @ 2017-04-22 22:27 nick hao 阅读(8798) 评论(0) 推荐(1) 编辑
摘要: 上一篇介绍了Phoenix基于HBase的二级索引的基本知识,这一篇介绍一下和索引相关的一致性和优化相关内容。 一致性的保证 Phoenix客户端在成功提交一个操作并且得到成功响应后,就代表你所做的操作已经成功应用到原表和相关的索引表中。换句话说,索引表的维护和处理原表数据是同步的,并且各自是强一致 阅读全文
posted @ 2017-04-22 15:17 nick hao 阅读(2971) 评论(0) 推荐(0) 编辑
摘要: Phoenix使用HBase作为后端存储,对于HBase来说,我们通常使用字典序的RowKey来快速访问数据,除此之外,也可以使用自定义的Filter来搜索数据,但是它是基于全表扫描的。而Phoenix提供的二级索引是可以避开全表扫描,是在HBase中快速查找或批量检索数据的另一个选择。下面的例子使 阅读全文
posted @ 2017-04-17 19:13 nick hao 阅读(11372) 评论(0) 推荐(1) 编辑
摘要: 上一篇写了使用RabbitMQ来实现延迟任务的实现,其实实现延迟任务的方式有很多,各有利弊,有单机和分布式的。在这里做一个总结,在遇到这类问题的时候希望给大家一个参考和思路。 延迟任务有别于定式任务,定式任务往往是固定周期的,有明确的触发时间。而延迟任务一般没有固定的开始时间,它常常是由一个事件触发的,而在这个事件触发之后的一段时间内触发另一个事件。延迟任务相关的业务场景如下: 场景一:物联网... 阅读全文
posted @ 2017-04-03 21:39 nick hao 阅读(6902) 评论(1) 推荐(6) 编辑
摘要: 场景一:物联网系统经常会遇到向终端下发命令,如果命令一段时间没有应答,就需要设置成超时。 场景二:订单下单之后30分钟后,如果用户没有付钱,则系统自动取消订单。 上述类似的需求是我们经常会遇见的问题。最常用的方法是定期轮训数据库,设置状态。在数据量小的时候并没有什么大的问题,但是数据量一大轮训数据库的方式就会变得特别耗资源。当面对千万级、上亿级数据量时,本身写入的IO就比较高,导致长时间查询或... 阅读全文
posted @ 2017-03-24 22:15 nick hao 阅读(57372) 评论(8) 推荐(5) 编辑
摘要: Curator是Netflix公司开源的一个ZooKeeper client library,用于简化ZooKeeper客户端编程。它包含如下模块: Framework:Framework是ZooKeeper API的High-Level的封装,它让访问ZooKeeper更加简单。它基于ZooKee 阅读全文
posted @ 2017-03-16 22:06 nick hao 阅读(12046) 评论(0) 推荐(1) 编辑
摘要: ElasticSearch 阅读全文
posted @ 2017-03-05 21:33 nick hao 阅读(1183) 评论(0) 推荐(0) 编辑
摘要: ElasticSearch 阅读全文
posted @ 2017-03-05 21:31 nick hao 阅读(783) 评论(0) 推荐(0) 编辑