Kafka - Kafka 概述

一、为什么需要kafka

缓冲/削峰能力

hadoop组件的吞吐量只有100M/s，无法满足双11的高峰流量。中间加一层kafka，能极大的解决生产消息和消费消息的处理速度不一致的情况。

 

 

 

解耦

 

 

 

异步通信

 

二、消息队列的 两种模式

点对点模式

 

 

 

发布/订阅模式

 

 

二、kafka的消息编码格式

Kafka 的选择：它使用的是纯二进制的字节序列。当然消息还是结构化的，只是在使用之前都要将其转换成二进制的字节序列

 

三、kafka基础架构（面试向：kafka是什么？）

 

 

Kafka是一种高吞吐量、分布式、基于发布/订阅的消息系统，最初由LinkedIn公司开发，使用Scala语言编写，目前是Apache的开源项目...

1 ）Producer ：消息生产者，就是向 kafka broker 发消息的客户端；

2 ）Consumer ：消息消费者，向 kafka broker 取消息的客户端；

3 ）Consumer Group （CG ）：消费者组，由多个 consumer 组成。 消费者组内每个消费者负责消费不同分区的数据，一个分区只能由一个 消费者组内的一个 消费者消费；消费者组之间互不影响。所有的消费者都属于某个消费者组，即 消费者组是逻辑上的一个订阅者。

4 ）Broker ：一台 kafka 服务器就是一个 broker。一个集群由多个 broker 组成。一个 broker可以容纳多个topic。

5 ）Topic ：可以理解为一个队列， 生产者和消费者面向的都是一个 topic；

6 ）Partition ：为了实现扩展性，一个非常大的 topic 可以分布到多个 broker（即服务器）上，一个 topic 可以分为多个 partition，每个 partition 是一个有序的队列；

7）Replica： ：副本，为保证集群中的某个节点发生故障时，该节点上的 partition 数据不丢失，且 kafka 仍然能够继续工作，kafka 提供了副本机制，一个 topic 的每个分区都有若干个副本，一个 leader 和若干个 follower。

8 ）leader ：每个分区多个副本的“主”，生产者发送数据的对象，以及消费者消费数据的对象都是 leader。

9 ）follower ：每个分区多个副本中的“从”，实时从 leader 中同步数据，保持和 leader 数据的同步。leader 发生故障时，某个 follower 会成为新的 leader。

10）ZooKeeper：ids节点，保存哪些broker（服务器）上线；topics节点，保存哪些是leader，follower

 

四、哪些场景下，会选择kafka?

•日志收集：一个公司可以用Kafka可以收集各种服务的log，通过kafka以统一接口服务的方式开放给各种consumer，例如hadoop、HBase、Solr等。

•消息系统：解耦和生产者和消费者、缓存消息等。

•用户活动跟踪：Kafka经常被用来记录web用户或者app用户的各种活动，如浏览网页、搜索、点击等活动，这些活动信息被各个服务器发布到kafka的topic中，然后订阅者通过订阅这些topic来做实时的监控分析，或者装载到hadoop、数据仓库中做离线分析和挖掘。

•运营指标：Kafka也经常用来记录运营监控数据。包括收集各种分布式应用的数据，生产各种操作的集中反馈，比如报警和报告。

•流式处理：比如spark streaming和 Flink

 

参考文献

原文链接：https://blog.csdn.net/qq_43284469/article/details/121307740