2025年8月12日
摘要:
#!coding=utf-8"""门面模式(外观模式)class Agv: name = "" price = 0.0 type = "AGV" def getPrice(self): return self.price def setPrice(self, price): self.price =
阅读全文
posted @ 2025-08-12 16:11
paulgeo
阅读(6)
推荐(0)
2025年8月2日
摘要:
三层B+树 2层稀疏索引。16k一页,主键索引+其他索引 buffer pool 不再需要系统文件缓存 直接io读写磁盘 自适应哈希索引,热数据字典存储 undo log。更新buffer pool的时候记录变化前后数据逻辑变化(事务),可以支持回滚操作 redolog 数据更新操作后数据都写文件中
阅读全文
posted @ 2025-08-02 23:07
paulgeo
阅读(5)
推荐(0)
摘要:
中间件 远程字典服务 字符串,列表,set,有序set、链表 单机模式、主从、集群模式 单机单线程,不能防止数据丢失,所以可以用主从模式,放几个副本,主节点挂了从节点 还可以读但是不能自动重启,keepalived可以重启 但是随机指定,不能找到消息最多的那一个,于是可以用哨兵模式监控更快而且可以选
阅读全文
posted @ 2025-08-02 22:59
paulgeo
阅读(6)
推荐(0)
2025年7月30日
摘要:
4.1 日志存储 [流程图] Topic:Kafka中的消息是以主题为单位进行归类的,每个主题在逻辑上相互独立 Partition:每个主题可以分为一个或者多个分区 Replica:每个分区会有多个副本 log:每个副本会有其对应的日志 LogSegment:为了防止单个log文件过大,引入日志分段
阅读全文
posted @ 2025-07-30 11:42
paulgeo
阅读(43)
推荐(0)
摘要:
零拷贝 传统意义上拷贝 mmap()内存映射, rocketmq的读数据以及kafka的写索引数据均采用此方式 sendfile() sendfile() + DMA gather copy。kafka 读数据采用此方式 splice() + DMA copy 使用 mmap + write 方式
阅读全文
posted @ 2025-07-30 11:34
paulgeo
阅读(34)
推荐(0)
2025年7月2日
摘要:
思路分析 解析sql语义,通过编程语言得出正确结果,再与sql执行结果对比(工作量大直接放弃) 通过原生spark sql执行得出结果做对比,(可行,问题点就在于如何对比两个结果) 对比sql结果是否正确分为两点:1.两者执行sql结果行数一致 且sne的sql结果的每行是否存在于spark sql
阅读全文
posted @ 2025-07-02 15:35
paulgeo
阅读(42)
推荐(0)
摘要:
差异点简述 编写语言不同,kafka消息是消费者拉取,rabbitmq可推可拉 1.kafka优势: 吞吐量更大上限更高 保证消息顺序化消费更强,生产线消息幂等性的支持 更能支持多消费者情况,一份数据不会像rabbit生成多份 支持消息回溯 流控管理支持生产与消费端 2.rabbitmq优势: 一些
阅读全文
posted @ 2025-07-02 15:29
paulgeo
阅读(13)
推荐(0)
摘要:
简单总结: rocketmq 设计目的 : 承载更多~无限制的队列数量 or topic数量, 更低的延迟,更高的消息可靠性 从性能角度: 1.简单说同规格集群kafka 吞吐量基本一定更大,但是要求分区量大并且稳定流量、低延时场景下 rocketmq更有优势 2.架构层面: 主要带宽影响: kaf
阅读全文
posted @ 2025-07-02 15:29
paulgeo
阅读(73)
推荐(0)
摘要:
https://developer.aliyun.com/article/980757 1.Kafka 吞吐量为何很高? broker维度: 1.分区实现 每个分区一个线程维护一个文件,并发写 2.磁盘顺序写入 3.多节点机器 分布式架构,均衡负载 4.零拷贝: 零拷贝指的是在数据传输过程中避免不必
阅读全文
posted @ 2025-07-02 15:29
paulgeo
阅读(10)
推荐(0)
2019年10月15日
posted @ 2019-10-15 21:10
paulgeo
阅读(132)
推荐(0)