09 2026 档案

JAX 分布式训练，和 PyTorch 有什么不一样
摘要：摘要 同样是"模型太大装不下、数据太多算不完"，PyTorch 靠 DDP 和 FSDP 这两套显式的分布式 API 来解决，JAX 走的是另一条路：你只管把数据"该怎么摆"描述清楚，剩下的通信全部交给编译器 XLA 自动生成。这篇文章从 JAX 分布式训练最核心的几个概念讲起，边讲边对照 PyTo 阅读全文
posted @ 2026-09-29 20:12 RobinDevNotes 阅读(8) 评论(0) 推荐(0)
手把手跑通 verl 强化学习训练框架
摘要：摘要 让大模型学会"做对题""说人话"，靠的是强化学习。但真把强化学习跑起来，麻烦一大堆：一个训练循环里要同时伺候好几个模型，还要在"生成"和"训练"两种完全不同的工作模式之间来回切换。verl 就是专门解决这件事的开源框架，它把复杂的流程拆开、编排好，你只需要改几行配置。这篇文章从最基础的概念讲起 阅读全文
posted @ 2026-09-27 09:09 RobinDevNotes 阅读(15) 评论(0) 推荐(0)
一文看懂 DeepSpeed ZeRO-3 与 MoE 训练
摘要：摘要 训练大模型，最先撞墙的不是算力，而是显存。ZeRO-3 的思路很朴素：别让每张卡都背一整份模型，把参数、梯度、优化器状态都切开，各卡只管自己那一份，用到别人的再临时借。MoE 则从另一个方向下手，把模型做得很大，但每个 token 只用其中几个"专家"。这篇文章用最通俗的方式讲清两者的原理，并 阅读全文
posted @ 2026-09-26 09:50 RobinDevNotes 阅读(9) 评论(0) 推荐(0)
用 godot-rust 给 Godot 写 Rust 扩展
摘要：摘要 godot-rust（代号 gdext）是 Godot 4 的 Rust 绑定，通过官方的 GDExtension 接口，让你用 Rust 写游戏逻辑、编辑器插件和自定义节点，不用改引擎源码，也不用重新编译 Godot。今年 3 月发布的 v0.5 带来了类型化字典、非空对象参数和随处可用的 阅读全文
posted @ 2026-09-24 09:58 RobinDevNotes 阅读(15) 评论(0) 推荐(0)
E2B让AI Agent安全执行代码
摘要：摘要 E2B 是一个开源的安全沙箱基础设施，专门解决一个 AI Agent 绕不开的问题：让大模型生成的代码、操作真实工具的指令，能在一个完全隔离、随时可销毁的环境里跑，而不会碰到宿主机和其他任务的数据。它已经开源三年多，2026 年 6 月累计沙箱启动次数突破 10 亿次，重新成为关注焦点；按官方 阅读全文
posted @ 2026-09-20 09:18 RobinDevNotes 阅读(50) 评论(0) 推荐(0)
Bevy和Godot，两种游戏引擎的路线之争
摘要：摘要 Godot 用节点加场景树的组合式设计，把"做游戏"变成了搭积木一样直观的事；Bevy 则用 Rust 的 ECS（实体-组件-系统）架构，把游戏当成一个数据驱动的软件工程问题来解。两者不是同一条赛道上的竞争对手，而是两种完全不同的思考方式——选哪个，取决于你更怕"做不完"还是更怕"架构撑不住 阅读全文
posted @ 2026-09-18 09:51 RobinDevNotes 阅读(30) 评论(0) 推荐(0)
用 Profile 揪出大模型训练性能瓶颈
摘要：摘要 大模型训练"跑起来"和"跑得快"完全是两回事——同样的模型、同样的卡数，GPU 利用率可能相差一倍以上，原因往往藏在计算、通信、IO 三个环节里，肉眼很难判断到底卡在哪一步。Nsight Systems 和 PyTorch Profiler 是目前工程实践中最常用的一对性能分析工具，前者看系统 阅读全文
posted @ 2026-09-16 10:01 RobinDevNotes 阅读(23) 评论(0) 推荐(0)
TensorRT 与 ONNX Runtime 推理全解析
摘要：摘要 大模型从训练好的权重变成能对外提供服务的产品，中间必须经过"推理引擎"这一关。TensorRT（及其大模型分支 TensorRT-LLM）和 ONNX Runtime（及其生成式扩展 ONNX Runtime GenAI）是目前工程落地中最常被提到的两套推理方案，一个主打 NVIDIA GPU 阅读全文
posted @ 2026-09-14 09:50 RobinDevNotes 阅读(25) 评论(0) 推荐(0)
Palmier Pro：AI时代的Mac视频编辑器
摘要：摘要 Palmier Pro 是一款为 Mac 打造的 AI 视频编辑器，用纯 Swift 原生开发，目标是做出"给 AI 智能体用的 Premiere Pro"。它把时间线剪辑和生成式 AI 揉进了同一个工作界面：可以在剪辑轨道里直接调用 Seedance、Kling、Nano Banana Pr 阅读全文
posted @ 2026-09-12 20:10 RobinDevNotes 阅读(11) 评论(0) 推荐(0)
模型训练工程师必须搞懂的DDP和FSDP
摘要：摘要 当模型大到一张 GPU 装不下、或者数据多到一张卡跑不动的时候，PyTorch 提供了两套分布式训练方案来解决这个问题：DDP（DistributedDataParallel）和 FSDP（FullyShardedDataParallel）。它们都不是独立的框架，而是 PyTorch 内置的分 阅读全文
posted @ 2026-09-11 09:12 RobinDevNotes 阅读(21) 评论(0) 推荐(0)
为什么AI训练工程师都要懂NCCL
摘要：摘要 训练一个大模型，从来不是一张卡的事情。当成百上千张 GPU 需要在每一步训练中同步梯度、对齐参数时，真正决定训练效率上限的，往往不是算力本身，而是"卡与卡之间怎么说话"。NCCL（NVIDIA Collective Communications Library）就是解决这件事的核心组件——它是 阅读全文
posted @ 2026-09-08 22:19 RobinDevNotes 阅读(27) 评论(0) 推荐(0)
RoCEv2如何扛起大模型训练网络
摘要：摘要 大模型训练早已不是"堆 GPU"就能解决的问题：成百上千张卡之间的梯度同步（All-Reduce、All-Gather）对网络的带宽、时延和丢包率极度敏感，网络反而成了压榨算力的最后一道瓶颈。RoCEv2（RDMA over Converged Ethernet v2）把 RDMA 的低时延、 阅读全文
posted @ 2026-09-06 19:35 RobinDevNotes 阅读(81) 评论(0) 推荐(0)
开源游戏引擎Godot正在悄然崛起
摘要：摘要 Godot 是一款完全免费、开源、跨平台的 2D/3D 游戏引擎，采用 MIT 协议，没有任何授权费、分成或订阅门槛。自 2023 年 Unity 的"运行时收费"风波之后，越来越多独立开发者把目光投向了它，如今它已经从"小众替代品"变成了独立游戏圈里一个真正拿得出手的主力选项。 是什么 Go 阅读全文
posted @ 2026-09-03 09:38 RobinDevNotes 阅读(82) 评论(0) 推荐(0)