代码改变世界

随笔分类 -  kafka

Kafka的特点及使用场景

2016-03-01 09:38 by Mandylover, 10113 阅读, 收藏,
摘要: Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发,之后成为Apache项目的一部分。Kafka是一个分布式的,可划分的,冗余备份的持久性的日志服务。它主要用于处理活跃的流式数据。 在大数据系统中,常常会碰到一个问题,整个大数据是由各个子系统组成,数据需要在各个子系统中高性能,低 阅读全文

kafka在虚拟机环境的优化

2016-01-19 20:47 by Mandylover, 861 阅读, 收藏,
摘要: 首先是,多磁盘的并发的问题。不管怎么说,虚拟机环境至少剥夺了单个kafka同时使用多个磁盘的优势。也就意味着,在同一个虚拟机,同一个topic,最好只有一partition;当然,不同topic之间partition如果同时生产-消费也会互相影响,但不一定会同时在高峰(同个topic一定)。构建较... 阅读全文

kafka的安装和使用

2016-01-19 20:19 by Mandylover, 245 阅读, 收藏,
摘要: 简单说kafka是一个高吞吐的分部式消息系统,并且提供了持久化。kafka的架构• producer:消息生存者• consumer:消息消费者• broker:kafka集群的server,负责处理消息读、写请求,存储消息• topic:消息队列/分类• Queue里面有生产者消费者模型• bro... 阅读全文