随笔分类 -  中间件

kafka基础六
摘要:kafka中的高可用HA 1、replication副本 同一个partition会有一个leader和多个副本,这些副本存储的内容与leader相同,可以通过 server.properties 配置中的 default.replication.factor=N进行配置。producer只和Lea 阅读全文

posted @ 2019-03-24 13:29 红绿森林 阅读(211) 评论(0) 推荐(0)

kafka基础五
摘要:Kafka与Zookeeper Zookeeper存储了什么 kafka架构中角色: 1.producer: 消息生产者,发布消息到 kafka 集群的终端或服务。 2.broker: kafka 集群中包含的服务器。 3.topic: 每条发布到 kafka 集群的消息属于的类别,即 kafka 阅读全文

posted @ 2019-03-24 11:54 红绿森林 阅读(115) 评论(0) 推荐(0)

kafka基础四
摘要:消费者消费过程(二) 消费组状态机 :消息的产生存储消费看似是杂乱无章的,但万物都会遵循一定的规则成长,任何事物的发展都是有迹可循的。 开始消费组初始状态为Stable,经过第一次Rebalance之后,正常的还没有向消费组注册过的消费者会执行状态为Stable,在经过第一次rebalance之后, 阅读全文

posted @ 2019-03-23 20:04 红绿森林 阅读(116) 评论(0) 推荐(0)

kafka基础三
摘要:消费者消费消息过程(一) 消费者组 消费者是以消费者组consumer group的方式进行消息消费的,一个消费者组是由一个或者多个消费者组成的,共同消费一个topic,在每个分区同一时间只能由消费者组中的一个消费者读取,一个消费者组中的消费者可以同时读取同一个topic中的多个partition。 阅读全文

posted @ 2019-03-23 18:32 红绿森林 阅读(215) 评论(0) 推荐(0)

kafka基础二
摘要:kafka生产者工作流程 消息产生分析 1.写入方式: producer采用推(push)模式将消息发布到broker,每条消息都会被追加(append)到分区Partition上,属于顺序写磁盘(顺序写磁盘效率比随机写内存要高,保障了kafka的吞吐率) 消息的路由 producer将消息发给br 阅读全文

posted @ 2019-03-23 14:44 红绿森林 阅读(170) 评论(0) 推荐(0)

kafka基础一
摘要:基本概念: 消息系统的组成由生产者,消费者以及存储系统。消费者从存储系统中读取生产者生产的消息。Kafka作为分布式的消息系统支持多个生产者多个消费者,写消息时允许多个生产者写到同一个Partition中,一个Partition中的消息只允许一个消费者组中的一个消费者消费。 1.Producer:消 阅读全文

posted @ 2019-03-23 13:57 红绿森林 阅读(343) 评论(0) 推荐(0)