随笔分类 - kafka
摘要:一.为什么kafka要做分区? 因为当一台机器有可能扛不住(类比:就像redis集群中的redis-cluster一样,一个master抗不住写,那么就多个master去抗写),把一个队列的单一master变成多个master,即一台机器扛不住qps,那么我就用多台机器扛qps,把一个队列的流量均匀
阅读全文
摘要:一.产生的问题 在.NET环境下使用kafka,消费者长时间消费,会报“ Application maximum poll interval ”错误。 我们是当测试芯片的工厂长时间运行软件,消费者拉取到消息后去生成芯片的测试报告文件时,会偶发报“ Application maximum poll i
阅读全文
摘要:首先解释下为什么产线客户电脑c盘空间越来越小?是因为如下图所示,kafka数据文件所对应的两个索引文件xxxxxx.index(偏移量索引文件),xxxxxx.timeindex(时间戳索引文件)没有被删除掉引起的,因为产线上现在已经有1000多个topic,每1个topic这两个索引文件就占了20
阅读全文