Kafka初识

一.Kafka概述

　　1.kafka是一个分布式的消息缓存系统

　　2.kafka集群中的服务器都叫做broker
　　3.kafka有两类客户端，一类叫producer（消息生产者），一类叫做consumer（消息消费者），客户端和broker服务器之间采用tcp协议连接
　　4.kafka中不同业务系统的消息可以通过topic进行区分，而且每一个消息topic都会被分区，以分担消息读写的负载
　　5.每一个分区都可以有多个副本，以防止数据的丢失
　　6.某一个分区中的数据如果需要更新，都必须通过该分区所有副本中的leader来更新
　　7.消费者可以分组，比如有两个消费者组A和B，共同消费一个topic：order_info，A和B所消费的消息不会重复 ，比如 order_info 中有100个消息，每个消息有一个id，编号从0-99，那么，如果A组消费0-49号，B组就消费50-99号
　　8.消费者在具体消费某个topic中的消息时，可以指定起始偏移量

 

二.Kafka使用背景

　　在我们大量使用分布式数据库、分布式计算集群的时候，是否会遇到这样的一些问题：

　　a.我们想分析下用户行为（pageviews），以便我们设计出更好的广告位
　　b.我想对用户的搜索关键词进行统计，分析出当前的流行趋势
　　c.有些数据，存储数据库浪费，直接存储硬盘效率又低
　　这些场景都有一个共同点：数据是由上游模块产生，上游模块，使用上游模块的数据计算、统计、分析，这个时候就可以使用消息系统，尤其是分布式消息系统！

 

三.Kafka的定义
　　What is Kafka：它是一个分布式消息系统，由linkedin使用scala编写，用作LinkedIn的活动流（Activity Stream）和运营数据处理管道（Pipeline）的基础。具有高水平扩展和高吞吐量。

四.Kafka和其他主流分布式消息系统的对比

　　定义解释：

　　1.Java 和 scala都是运行在JVM上的语言。
　　2.erlang和最近比较火的和go语言一样是从代码级别就支持高并发的一种语言，所以RabbitMQ天生就有很高的并发性能，但是 有RabbitMQ严格按照AMQP进行实现，受到了很多限制。kafka的设计目标是高吞吐量，所以kafka自己设计了一套高性能但是不通用的协议，他也是仿照AMQP（ Advanced Message Queuing Protocol 高级消息队列协议）设计的。
　　3.事物的概念：在数据库中，多个操作一起提交，要么操作全部成功，要么全部失败。举个例子， 在转账的时候付款和收款，就是一个事物的例子，你给一个人转账，你转成功，并且对方正常行收到款项后，这个操作才算成功，有一方失败，那么这个操作就是失败的。
对应消在息队列中，就是多条消息一起发送，要么全部成功，要么全部失败。3个中只有ActiveMQ支持，这个是因为，RabbitMQ和Kafka为了更高的性能，而放弃了对事物的支持 。
　　4.集群：多台服务器组成的整体叫做集群，这个整体对生产者和消费者来说，是透明的。其实对消费系统组成的集群添加一台服务器减少一台服务器对生产者和消费者都是无感之的。
　　5.负载均衡，对消息系统来说负载均衡是大量的生产者和消费者向消息系统发出请求消息，系统必须均衡这些请求使得每一台服务器的请求达到平衡，而不是大量的请求，落到某一台或几台，使得这几台服务器高负荷或超负荷工作，严重情况下会停止服务或宕机。
　　6.动态扩容是很多公司要求的技术之一，不支持动态扩容就意味着停止服务，这对很多公司来说是不可以接受的。
　　注：
　　阿里巴巴的Metal,RocketMQ都有Kafka的影子，他们要么改造了Kafka或者借鉴了Kafka，最后Kafka的动态扩容是通过Zookeeper来实现的。
　　Zookeeper是一种在分布式系统中被广泛用来作为：分布式状态管理、分布式协调管理、分布式配置管理、和分布式锁服务的集群。kafka增加和减少服务器都会在Zookeeper节点上触发相应的事件kafka系统会捕获这些事件，进行新一轮的负载均衡，客户端也会捕获这些事件来进行新一轮的处理。

 

五.Kafka相关概念

1.AMQP协议

　　Advanced Message Queuing Protocol （高级消息队列协议）
　　The Advanced Message Queuing Protocol (AMQP)：是一个标准开放的应用层的消息中间件（Message Oriented Middleware）协议。AMQP定义了通过网络发送的字节流的数据格式。因此兼容性非常好，任何实现AMQP协议的程序都可以和与AMQP协议兼容的其他程序交互，可以很容易做到跨语言，跨平台。
　　上面说的3种比较流行的消息队列协议，要么支持AMQP协议，要么借鉴了AMQP协议的思想进行了开发、实现、设计。
2.一些基本的概念
　　a.消费者：（Consumer）：从消息队列中请求消息的客户端应用程序
　　b.生产者：（Producer） ：向broker发布消息的应用程序
　　c.AMQP服务端（broker）：用来接收生产者发送的消息并将这些消息路由给服务器中的队列，便于fafka将生产者发送的消息，动态的添加到磁盘并给每一条消息一个偏移量，所以对于kafka一个broker就是一个应用程序的实例
　　kafka支持的客户端语言：Kafka客户端支持当前大部分主流语言，包括：C、C++、Erlang、Java、.net、perl、PHP、Python、Ruby、Go、Javascript

　　可以使用以上任何一种语言和kafka服务器进行通信（即辨析自己的consumer从kafka集群订阅消息也可以自己写producer程序） 
3.Kafka架构
　　生产者生产消息、kafka集群、消费者获取消息这样一种架构，如下图：

　　kafka集群中的消息，是通过Topic（主题）来进行组织的，如下图：

　　一些基本的概念：

　　a.主题（Topic）：一个主题类似新闻中的体育、娱乐、教育等分类概念，在实际工程中通常一个业务一个主题。
　　b.分区（Partition）：一个Topic中的消息数据按照多个分区组织，分区是kafka消息队列组织的最小单位，一个分区可以看作是一个FIFO（ First Input First Output的缩写，先入先出队列）的队列。
kafka分区是提高kafka性能的关键所在，当你发现你的集群性能不高时，常用手段就是增加Topic的分区，分区里面的消息是按照从新到老的顺序进行组织，消费者从队列头订阅消息，生产者从队列尾添加消息。
　　工作图：

　　备份（Replication）：为了保证分布式可靠性，kafka0.8开始对每个分区的数据进行备份（不同的Broker上），防止其中一个Broker宕机造成分区上的数据不可用。

　　kafka0.7是一个很大的改变：

　　a.增加了备份

　　b.增加了控制借点概念，增加了集群领导者选举

 

文章来源：https://blog.csdn.net/lxf20054658/article/details/74513904

https://www.cnblogs.com/luotianshuai/p/5206662.html