随笔分类 -  Kafka

Kafka monitoring监控
摘要:一、Metrics kafka有两个metrics包,在看源码的时候很容易混淆 可以看到这两个包的包名都是metrics,但是他们负责的任务并不相同,而且两个包中的类并没有任何的互相引用关系.可以看作是两个完全独立的包.kafka.mtrics这个包,主要调用yammer的Api,并进行封装,提供给 阅读全文
posted @ 2018-10-09 10:56 脆皮软心 阅读(1310) 评论(0) 推荐(0)
Kafka Consumer
摘要:本文转发自技术世界,原文链接 http://www.jasongj.com/2015/08/09/KafkaColumn4 本文主要介绍了Kafka High Level Consumer,Consumer Group,Consumer Rebalance,Low Level Consumer实现的 阅读全文
posted @ 2018-09-30 15:42 脆皮软心 阅读(308) 评论(0) 推荐(0)
Leader Election
摘要:一、zookepper Leader Election 主要有两种方法: (1)抢注Leader节点 非公平模式 (2)先到先得,后者监听前者 公平模式 (1)抢注Leader节点 非公平模式 1.创建Leader父节点,如/chroot,并将其设置为persist持久节点; 2.各客户端通过在/c 阅读全文
posted @ 2018-09-30 12:07 脆皮软心 阅读(857) 评论(1) 推荐(0)
kafka与zookeeper读写分析
摘要:kafka的读写都通过leader完成,而zookeeper只有写要通过leader而读可以通过任意follower,我觉得造成这种差异的原因还是在于使用场景。 kafka的设计目标是实现一个高吞吐的消息处理系统,其一个重要特性就是需要保证数据一致性和有序性。如果所有Replica都可以同时读写,那 阅读全文
posted @ 2018-09-30 11:24 脆皮软心 阅读(205) 评论(0) 推荐(0)
kafka原生producer API
摘要:转自https://blog.csdn.net/tianlan996/article/details/80495208 1. 类 2. producer是线程安全的(这点不同于consumer),多线程共享producer可以提高效率。 3. 使用示例: producer包含一个缓存空间来存放未发送 阅读全文
posted @ 2018-09-27 14:11 脆皮软心 阅读(223) 评论(0) 推荐(0)
学习资料
摘要:1、有关kafka、spark、大数据、机器学习、设计模式 http://www.jasongj.com/ 阅读全文
posted @ 2018-09-27 09:14 脆皮软心 阅读(121) 评论(0) 推荐(0)
kafka学习资料
摘要:https://www.jianshu.com/p/fa307ecc1eeb https://blog.csdn.net/lizhitao/article/details/39499283 https://www.cnblogs.com/skying555/p/7903457.html https: 阅读全文
posted @ 2018-09-20 11:39 脆皮软心 阅读(139) 评论(0) 推荐(0)