我的随笔

NCCL论文阅读

CQzhangyu 2025-09-24 11:03 阅读:1753 评论:0 推荐:0

[Pytorch] Transformer Engine报错：RuntimeError: The specified pointer resides on host memory and is not registered with any CUDA device.

CQzhangyu 2025-06-24 14:50 阅读:329 评论:4 推荐:0

[CMake] 用CMake编译C++程序为Python库

CQzhangyu 2025-04-18 10:28 阅读:588 评论:0 推荐:0

[MoE] Deepseek的All-to-all通信: DeepEP代码解读

CQzhangyu 2025-02-27 18:04 阅读:15207 评论:2 推荐:4

[MoE] Tutel源码解读

CQzhangyu 2025-02-14 00:12 阅读:851 评论:0 推荐:0

[PyTorch] DDP源码阅读

CQzhangyu 2025-02-09 15:45 阅读:347 评论:0 推荐:0

[CUDA] 手写一个PyTorch的算子

CQzhangyu 2025-02-09 00:21 阅读:1014 评论:0 推荐:0

[LLM] ZeRO-DP技术简析

CQzhangyu 2025-02-07 12:42 阅读:384 评论:0 推荐:0

[RDMA] UD模式下ibv_post_send返回ENOMEM，但sq并没有满

CQzhangyu 2024-12-28 16:33 阅读:173 评论:0 推荐:0

[RDMA] RDMA的不同操作是否保证顺序？

CQzhangyu 2024-10-14 17:02 阅读:150 评论:1 推荐:0

[DPDK] dumpcap报错EAL init failed: is primary process running?解决办法

CQzhangyu 2024-09-10 17:05 阅读:566 评论:0 推荐:0

[DPDK] Docker容器内安装DPDK

CQzhangyu 2024-08-31 10:31 阅读:789 评论:0 推荐:0

Mellanox网卡开启SR-IOV

CQzhangyu 2024-05-13 15:19 阅读:4826 评论:0 推荐:0

[Mellanox] 安装MLNX_OFED

CQzhangyu 2024-05-12 17:28 阅读:10259 评论:0 推荐:0

[RoCE] 通过QoS对Mellanox网卡进行限速

CQzhangyu 2024-04-16 19:30 阅读:2506 评论:0 推荐:0