摘要: 从零开始解析Transformer,目标是:(1) 解析Transformer如何运作,以及为何如此运作,让新同学可以入门;(2) 力争融入一些比较新的或者有特色的论文或者理念,让老鸟也可以有所收获。 阅读全文
posted @ 2025-03-21 18:10 罗西的思考 阅读(10951) 评论(0) 推荐(11)
摘要: 新书出版:《分布式机器学习——系统、工程与实战》 ## 0x01 广告 经过一年多的努力,我的书 《分布式机器学习——系统、工程与实战》终于上架了,在这里打个广告。 ![](https://img2023.cnblogs.com/blog/1850883/202307/1850883-20230719224442070-381968133.jpg) 阅读全文
posted @ 2023-07-21 23:50 罗西的思考 阅读(2633) 评论(7) 推荐(3)
摘要: 前几篇文章我们介绍了 PyTorch 流水线并行的基本知识,自动平衡机制和切分数据等,本文我们结合论文内容来看看如何实现流水线依赖,核心就是如何建立这些小批次之间的跨设备依赖关系。 阅读全文
posted @ 2021-10-07 10:54 罗西的思考 阅读(3049) 评论(4) 推荐(3)
摘要: Celery是一个简单、灵活且可靠的,处理大量消息的分布式系统,专注于实时处理的异步任务队列,同时也支持任务调度。本系列将通过源码分析,和大家一起深入学习 Celery。本文是系列第二篇,继续探究 Celery 架构。 阅读全文
posted @ 2021-03-27 10:02 罗西的思考 阅读(2733) 评论(0) 推荐(0)
摘要: 【大数据 & AI】Flink Agents 源码解读 (5) ActionExecutionOperator 目录【大数据 & AI】Flink Agents 源码解读 (5) ActionExecutionOperator0x00 摘要0x01 基础知识1.1 总体架构1.2 定义1.3 关键设 阅读全文
posted @ 2026-01-08 20:41 罗西的思考 阅读(62) 评论(0) 推荐(0)
摘要: 【大数据 & AI】Flink Agents 源码解读 (4) AgentPlan 目录【大数据 & AI】Flink Agents 源码解读 (4) AgentPlan0x00 概要0x01 基本概念1.1 定义1.2 在系统中的位置和作用1.3 流程0x02 具体功能2.1 编译2.2 提供数据 阅读全文
posted @ 2026-01-05 20:53 罗西的思考 阅读(74) 评论(0) 推荐(0)
摘要: 【大数据 & AI】Flink Agents 源码解读 (3) Agent 目录【大数据 & AI】Flink Agents 源码解读 (3) Agent0x00 概要0x01 核心抽象1.1 Agent抽象1.2 Action 抽象1.3 资源抽象1.4 执行环境抽象1.5 事件抽象1.6 配置抽 阅读全文
posted @ 2025-12-31 19:17 罗西的思考 阅读(146) 评论(0) 推荐(1)
摘要: 【大数据 & AI】Flink Agents 源码解读 (2) 核心架构 目录【大数据 & AI】Flink Agents 源码解读 (2) 核心架构0x00 摘要0x01 Flink Agents主要组件1.1 主要组件1.2 内部成员变量映射关系1.2.1 Agent 到 AgentPlan1. 阅读全文
posted @ 2025-12-29 20:24 罗西的思考 阅读(105) 评论(0) 推荐(0)
摘要: 【大数据 & AI】Flink Agents 源码解读 (1) 设计 目录【大数据 & AI】Flink Agents 源码解读 (1) 设计0x00 概述0x01 目标1.1 事件驱动的智能体1.2 典型应用场景1.3 事件驱动智能体的技术要求1.4 核心设计理念1.5 事件驱动编排架构1.6 技 阅读全文
posted @ 2025-12-24 20:21 罗西的思考 阅读(111) 评论(0) 推荐(0)
摘要: 【Agent】MemOS 源码笔记 (7) MemScheduler 细节 目录【Agent】MemOS 源码笔记 (7) MemScheduler 细节0x00 摘要0x01 组件关系0x02 实现2.1 GeneralScheduler2.1.1 消息处理消息类型与processor注册消息分发 阅读全文
posted @ 2025-12-22 20:15 罗西的思考 阅读(95) 评论(0) 推荐(0)
摘要: 【Agent】MemOS 源码笔记 (6) MemScheduler -- 总体 目录【Agent】MemOS 源码笔记 (6) MemScheduler -- 总体0x00 摘要0x01 能力介绍1.1 需求1.2 如何调度1.3 MemScheduler 功能1.4 执行示例1.4.1 代码功能 阅读全文
posted @ 2025-12-18 21:21 罗西的思考 阅读(113) 评论(0) 推荐(1)
摘要: 【Agent】MemOS 源码笔记 (5) 记忆分类 目录【Agent】MemOS 源码笔记 (5) 记忆分类0x00 摘要0x01 记忆分类1.1 业界分类1.1.1 整体图表1.1.2 梳理1.2 MemOS0x02 MemOS分类解析2.1 维度定义2.1.1 按「物理形态 + 生命周期」划分 阅读全文
posted @ 2025-12-15 21:30 罗西的思考 阅读(145) 评论(0) 推荐(1)
摘要: 【Agent】MemOS 源码笔记 (4) KV Cache 目录【Agent】MemOS 源码笔记 (4) KV Cache0x00 概要0x01 原理1.1 技术路径1.2 对比1.3 协同工作0x02 定义2.1 KV Cache的记忆结构2.2 API总结 (KVCacheMemory)2. 阅读全文
posted @ 2025-12-10 21:21 罗西的思考 阅读(139) 评论(0) 推荐(0)
摘要: 【Agent】MemOS 源码笔记 (3) 搜索 目录【Agent】MemOS 源码笔记 (3) 搜索0x00 摘要0x01 分类0x02 混合搜索(Hybrid Search) Searcher2.1 定义2.2 核心函数2.3 依赖关系和关联关系2.3.1 依赖项(Searcher 依赖的组件) 阅读全文
posted @ 2025-12-08 20:24 罗西的思考 阅读(100) 评论(0) 推荐(0)