Kafka消费者应用存在消费者组协调器(Group Coordinator)不可用

问题场景

应用服务启动后，一直不停输出KAFKA相关日志。根据日志提供的信息分析，Kafka消费者应用存在消费者组协调器(Group Coordinator)不可用的问题，具体表现为消费者无法成功加入消费者组。

问题核心原因

1.Group Coordinator不稳定

1. 1. 日志中反复出现以下关键信息：

      Group coordinator XXX.XXX.XXX.XXX:XXXX (id: 2147483647 rack: null) is unavailable or invalid

      这表明消费者虽然能发现协调器（Discovered group coordinator），但协调器始终处于"不可用"状态，导致消费者无法完成组注册和分区分配。

 2.协调器ID异常

协调器ID为2147483647（即Integer.MAX_VALUE），这是Kafka内部表示"无效协调器"的默认值，说明协调器选举或元数据可能存在问题。

可能的原因

1. __consumer_offsets主题配置问题

   1. 您之前检查发现该主题的ReplicationFactor=1（单副本），且所有分区Leader集中在Broker 0。

   2. 风险：如果Broker 0宕机或网络波动，协调器服务会不可用。

   3. Kafka依赖__consumer_offsets存储消费者组元数据，单副本配置极易导致数据丢失或不可用。

   Broker配置问题

   1. offsets.topic.replication.factor未正确设置（默认值可能为1）。

   2. transaction.state.log.replication.factor（如果启用事务）也可能影响协调器稳定性。

   网络或资源问题

   1. Broker 0负载过高，无法及时响应协调器请求。

   2. 网络延迟或丢包导致协调器心跳超时。

问题排查

 

1.验证基础连接

# 测试端口连通性 
telnet IP PORT

# 尝试获取topic列表
kafka-topics.sh --bootstrap-server IP:PORT --list

2.检查消费者偏移主题

# 查看__consumer_offsets主题状态
kafka-topics.sh --bootstrap-server IP:PORT --describe --topic __consumer_offsets

3.尝试详细查询

# 使用describe而不是list
kafka-consumer-groups.sh --bootstrap-server 10.250.6.61:9092 --all-groups --describe

4.检查ACL权限（如果启用）

# 如果启用了ACL，检查权限
kafka-acls.sh --bootstrap-server 10.250.6.61:9092 --list

排查结果显示当前，基础连接正常；且当前确实没有任何活跃的消费者组；__consumer_offsets 主题配置为单副本如果 broker 0 宕机会导致消费者偏移量信息丢失，存在风险；未启用ACL,没有权限限制

解决方案

1.紧急恢复措施

重启Broker 0（临时解决协调器不可用问题）

采用方案1：紧急重启Broker 0恢复服务
1. 确认Broker 0的身份
# 查看Broker ID与IP的映射关系
zookeeper-shell.sh localhost:2181 ls /brokers/ids

2. 优雅停止Broker 0
避免直接kill进程，优先使用Kafka自带的停止脚本：
# 登录到Broker 0服务器
ssh root@IP

# 停止Kafka服务（根据您的部署方式选择）
systemctl stop kafka          # 若使用systemd
kafka-server-stop.sh  # 若使用脚本管理

# 确认进程已退出
ps aux | grep kafka | grep -v grep

3. 临时清理残留数据（可选）
如果怀疑元数据损坏，可清理临时文件（谨慎操作）：
# 删除Broker的临时元数据（确保已备份）
cp -r kafka-logs/__consumer_offsets-* data_backup/20250410/
cp kafka-logs/meta.properties kafka-logs/data_backup/20250410/
mv data_backup kafka安装目录
rm -rf kafka-logs/__consumer_offsets-*
rm -rf kafka-logs/meta.properties

4. 重启Broker 0
cd kafka安装目录/bin
nohup ./kafka-server-start.sh  ../config/server.properties &

# 检查启动日志
tail -f /var/log/kafka/server.log
# 关键日志确认：
# - "Started NetworkSocketServer"（监听9092端口）
# - "Successfully started KafkaCoordinator"（协调器初始化成功）

5.重启应用服务

 2.修复__consumer_offsets配置为多副本（根本解决）