随笔分类 -  Kafka

摘要:一、Kafka在zookeeper中存储结构图 二、分析 2.1 topic注册信息 /brokers/topics/[topic] : 存储某个topic的partitions所有分配信息 2.2 partition状态信息 /brokers/topics/[topic]/partitions/[ 阅读全文
posted @ 2018-05-08 11:06 扎心了,老铁 阅读(36721) 评论(11) 推荐(20) 编辑
摘要:一、下载 下载地址: http://kafka.apache.org/downloads.html http://mirrors.hust.edu.cn/apache/ 二、安装前提(zookeeper安装) 参考http://www.cnblogs.com/qingyunzong/p/863433 阅读全文
posted @ 2018-05-08 09:50 扎心了,老铁 阅读(39564) 评论(5) 推荐(11) 编辑
摘要:一、高可用的由来 1.1 为何需要Replication 在Kafka在0.8以前的版本中,是没有Replication的,一旦某一个Broker宕机,则其上所有的Partition数据都不可被消费,这与Kafka数据持久性及Delivery Guarantee的设计目标相悖。同时Producer都 阅读全文
posted @ 2018-05-07 20:10 扎心了,老铁 阅读(85504) 评论(14) 推荐(24) 编辑
摘要:一、Kafka的架构 如上图所示,一个典型的Kafka集群中包含若干Producer(可以是web前端产生的Page View,或者是服务器日志,系统CPU、Memory等),若干broker(Kafka支持水平扩展,一般broker数量越多,集群吞吐率越高),若干Consumer Group,以及 阅读全文
posted @ 2018-05-07 19:39 扎心了,老铁 阅读(85623) 评论(12) 推荐(35) 编辑
摘要:一、简介 1.1 概述 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志、访问日志,消息服务等等,Linkedin于2010年贡献给了Apache基金会并成为顶级 阅读全文
posted @ 2018-05-07 19:18 扎心了,老铁 阅读(674659) 评论(28) 推荐(119) 编辑