上一页 1 ··· 3 4 5 6 7 8 9 10 11 12 下一页
摘要: 在上一篇《Kafka Consumer多线程实例》中我们讨论了KafkaConsumer多线程的两种写法:多KafkaConsumer多线程以及单KafkaConsumer多线程。在第二种用法中我使用的是自动提交的方式,省去了多线程提交位移的麻烦。很多人跑来问如果是手动提交应该怎么写?由于Kafka 阅读全文
posted @ 2017-06-28 15:33 huxihx 阅读(11792) 评论(6) 推荐(4)
摘要: Producer拦截器(interceptor)是个相当新的功能,它和consumer端interceptor是在Kafka 0.10版本被引入的,主要用于实现clients端的定制化控制逻辑。 对于producer而言,interceptor使得用户在消息发送前以及producer回调逻辑前有机会 阅读全文
posted @ 2017-06-24 08:37 huxihx 阅读(10654) 评论(0) 推荐(0)
摘要: 前段时间在Kafka QQ群中有人问及此事——关于Java consumer如何动态修改topic订阅的问题。仔细一想才发现这的确是个好问题,因为如果简单地在另一个线程中直接持有consumer实例然后调用subscribe进行修改,consumer端必然会抛出异常ConcurrentModific 阅读全文
posted @ 2017-06-17 16:55 huxihx 阅读(15835) 评论(6) 推荐(0)
摘要: 本文主要参考社区0.11版本Controller的重设计方案,试图给大家梳理一下Kafka controller这个组件在设计上的一些重要思考。众所周知,Kafka中有个关键组件叫controller,负责管理和协调Kafka集群。网上关于controller的源码分析也有很多,本文就不再大段地列出 阅读全文
posted @ 2017-06-10 21:39 huxihx 阅读(6928) 评论(9) 推荐(2)
摘要: 今天带来一篇译文“调优Apache Kafka集群”,里面有一些观点并无太多新颖之处,但总结得还算详细。该文从四个不同的目标出发给出了各自不同的参数配置,值得大家一读~ 原文地址请参考:https://www.confluent.io/blog/optimizing-apache-kafka-dep 阅读全文
posted @ 2017-06-03 11:44 huxihx 阅读(3545) 评论(0) 推荐(2)
摘要: 开宗明义!本文根据Google Beam大神Tyler Akidau的系列文章《The world beyond batch: Streaming 101》(批处理之外的流式世界)整理而成, 主要讨论流式数据处理。在大数据领域,流式数据处理越发地重要了。原因有以下几点: 人们越来越想要得到更及时的数 阅读全文
posted @ 2017-05-22 09:42 huxihx 阅读(4084) 评论(2) 推荐(2)
摘要: 在0.11之前的版本中,多个consumer实例加入到一个空消费组将导致多次的rebalance,这是由于每个consumer instance启动的时间不可控,很有可能超出coordinator确定的rebalance timeout(即max.poll.interval.ms),而每次rebal 阅读全文
posted @ 2017-05-06 22:45 huxihx 阅读(10166) 评论(13) 推荐(0)
摘要: 在Kafka 0.10.2.0之前,Kafka服务器端和客户端版本之间的兼容性是“单向”的,即高版本的broker可以处理低版本client的请求。反过来,低版本的broker不能处理高版本client的请求。由于升级client要远比升级broker简单得多,因此这个限制给很多用户带来了麻烦,甚至 阅读全文
posted @ 2017-04-29 11:46 huxihx 阅读(6804) 评论(0) 推荐(3)
摘要: Kafka最佳实践 / Kafka Best Practices 阅读全文
posted @ 2017-04-16 22:32 huxihx 阅读(8239) 评论(7) 推荐(2)
摘要: 详细复盘Kafka-4614 bug,即由于MappedByteBuffer未关闭导致慢磁盘访问从而引发Kafka吞吐量急降 阅读全文
posted @ 2017-03-28 23:17 huxihx 阅读(4582) 评论(11) 推荐(5)
上一页 1 ··· 3 4 5 6 7 8 9 10 11 12 下一页