摘要: (以kafka为例) 生产者 在 Kafka0.11 版本和 Pulsar 中都支持“producer idempotency”的特性,翻译过来就是生产过程的幂等性,这种特性保证消息虽然可能在生产端产生重复,但是最终在消息队列存储时只会存储一份 它的做法时给每一个生产者一个唯一的 ID,并且为生产的 阅读全文
posted @ 2023-06-12 16:23 上好佳28 阅读(91) 评论(0) 推荐(0)
摘要: 为什么消息会丢失?(三个消息可能丢失的地方) 1、消息在写到消息队列的过程中丢失 业务服务器和消息队列服务器可能会出现网络抖动,当出现了网络抖动,消息就会丢失。 1)消息生产者把消息发送给MQ,如果接收成功,MQ会返回一个ack消息给生产者 2)如果消息接收不成功,MQ会返回一个nack消息给生产者 阅读全文
posted @ 2023-06-12 16:22 上好佳28 阅读(73) 评论(0) 推荐(0)
摘要: 消息错乱场景 rabbitMQ 一个 queue,多个 consumer,生产者向 RabbitMQ 里发送了三条数据,顺序依次是 data1/data2/data3,压入的是 RabbitMQ 的一个内存队列。结果消费者2先执行完操作data2,然后是 data1/data3 kafka 一个 t 阅读全文
posted @ 2023-06-12 16:21 上好佳28 阅读(120) 评论(0) 推荐(0)
摘要: 传统队列的顺序性 传统队列在服务器上保存有序的记录,如果多个消费者消费队列中的数据, 服务器将按照存储顺序输出记录。虽然服务器按顺序输出记录,但是记录被异步传递给消费者, 因此记录可能会无序的到达不同的消费者。这意味着在并行消耗的情况下, 记录的顺序是丢失的。因此消息系统通常使用“唯一消费者”的概念 阅读全文
posted @ 2023-06-12 15:55 上好佳28 阅读(247) 评论(0) 推荐(0)
摘要: kafka的主从同步 Kafka允许topic的分区拥有若干副本,所以当一个节点down掉时数据依然是可用的 创建副本的单位是topic的分区,每个分区都有一个leader和零或多个followers,所有的读写操作都由leader处理 一般分区的数量都比broker的数量多的多,各分区的leade 阅读全文
posted @ 2023-06-12 15:54 上好佳28 阅读(280) 评论(0) 推荐(0)
摘要: Kafka的Producer、Broker和Consumer之间采用的是一套自行设计的基于TCP层的协议 由于UDP协议是一种不可靠的传输协议,所以Kafka系统采用TCP协议作为服务间的通信协议 通信 通信模型 Reactor线程模型 Java NIO中的selector模型。最简单的Reacto 阅读全文
posted @ 2023-06-12 11:27 上好佳28 阅读(97) 评论(0) 推荐(0)
摘要: 一般来说我们谈论推拉模式都是指comsumer和broker之间的交互 Producer 与 Broker 之间都是推的方式,即 Producer 将消息推送给 Broker RabbitMQ推拉都支持,官方推荐推模式 RocketMQ推拉都支持(本质上推也是拉) kafka只有拉模式 推模式 消息 阅读全文
posted @ 2023-06-09 17:17 上好佳28 阅读(115) 评论(0) 推荐(0)
摘要: RocketMQ 阿里开源,阿里参照kafka设计的,Java实现 能够保证严格的消息顺序 提供针对消息的过滤功能 提供丰富的消息拉取模式 高效的订阅者水平扩展能力 实时的消息订阅机制 亿级消息堆积能力 RabbitMQ Erlang实现,非常重量级,更适合于企业级的开发。同时实现了Broker架构 阅读全文
posted @ 2023-06-09 17:16 上好佳28 阅读(40) 评论(0) 推荐(0)
摘要: 具有低耦合、可靠投递、广播、流量控制、最终一致性等一系列功能,成为异步RPC的主要手段之一 组成 Broker:消息服务器,作为server提供消息核心服务 Producer:消息生产者,业务的发起方,负责生产消息传broker Consumer:消息消费者,业务的处理方,负责从broker获取消息 阅读全文
posted @ 2023-06-08 16:29 上好佳28 阅读(37) 评论(0) 推荐(0)
摘要: 现象: 业务卡件,报错:模型输入项获取发生异常 原因: 现在模型接入是支持页面配置的,定时会将数据库的模型参数加载到缓存中,代码运行时模型参数都是直接从缓存中获取的 下午新增模型时,业务人员配错了模型参数 DI->MODEL1,model_key->mdoel1,model_type->130, 此 阅读全文
posted @ 2023-06-08 16:24 上好佳28 阅读(86) 评论(0) 推荐(0)