摘要：
摘要 大模型训练"跑起来"和"跑得快"完全是两回事——同样的模型、同样的卡数，GPU 利用率可能相差一倍以上，原因往往藏在计算、通信、IO 三个环节里，肉眼很难判断到底卡在哪一步。Nsight Systems 和 PyTorch Profiler 是目前工程实践中最常用的一对性能分析工具，前者看系统 阅读全文
posted @ 2026-09-16 10:01
RobinDevNotes
阅读(23)
评论(0)
推荐(0)
摘要：
摘要 大模型从训练好的权重变成能对外提供服务的产品，中间必须经过"推理引擎"这一关。TensorRT（及其大模型分支 TensorRT-LLM）和 ONNX Runtime（及其生成式扩展 ONNX Runtime GenAI）是目前工程落地中最常被提到的两套推理方案，一个主打 NVIDIA GPU 阅读全文
posted @ 2026-09-14 09:50
RobinDevNotes
阅读(25)
评论(0)
推荐(0)
摘要：
摘要 Palmier Pro 是一款为 Mac 打造的 AI 视频编辑器，用纯 Swift 原生开发，目标是做出"给 AI 智能体用的 Premiere Pro"。它把时间线剪辑和生成式 AI 揉进了同一个工作界面：可以在剪辑轨道里直接调用 Seedance、Kling、Nano Banana Pr 阅读全文
posted @ 2026-09-12 20:10
RobinDevNotes
阅读(11)
评论(0)
推荐(0)
摘要：
摘要 当模型大到一张 GPU 装不下、或者数据多到一张卡跑不动的时候，PyTorch 提供了两套分布式训练方案来解决这个问题：DDP（DistributedDataParallel）和 FSDP（FullyShardedDataParallel）。它们都不是独立的框架，而是 PyTorch 内置的分 阅读全文
posted @ 2026-09-11 09:12
RobinDevNotes
阅读(20)
评论(0)
推荐(0)
摘要：
摘要 训练一个大模型，从来不是一张卡的事情。当成百上千张 GPU 需要在每一步训练中同步梯度、对齐参数时，真正决定训练效率上限的，往往不是算力本身，而是"卡与卡之间怎么说话"。NCCL（NVIDIA Collective Communications Library）就是解决这件事的核心组件——它是 阅读全文
posted @ 2026-09-08 22:19
RobinDevNotes
阅读(27)
评论(0)
推荐(0)
摘要：
摘要 大模型训练早已不是"堆 GPU"就能解决的问题：成百上千张卡之间的梯度同步（All-Reduce、All-Gather）对网络的带宽、时延和丢包率极度敏感，网络反而成了压榨算力的最后一道瓶颈。RoCEv2（RDMA over Converged Ethernet v2）把 RDMA 的低时延、 阅读全文
posted @ 2026-09-06 19:35
RobinDevNotes
阅读(81)
评论(0)
推荐(0)
摘要：
摘要 Godot 是一款完全免费、开源、跨平台的 2D/3D 游戏引擎，采用 MIT 协议，没有任何授权费、分成或订阅门槛。自 2023 年 Unity 的"运行时收费"风波之后，越来越多独立开发者把目光投向了它，如今它已经从"小众替代品"变成了独立游戏圈里一个真正拿得出手的主力选项。 是什么 Go 阅读全文
posted @ 2026-09-03 09:38
RobinDevNotes
阅读(82)
评论(0)
推荐(0)
浙公网安备 33010602011771号