【NCCL】DBT算法(double binary tree,双二叉树)
摘要:
目录 前言 ring 不足,需要 tree 朴素二叉tree只利用了一半带宽,需要 双二叉 tree 双二叉树的构造 ringvs 双二叉树 测试 ring和tree的选择 nccl tree tree搜索 基本概念解释 最大化局部性构建二叉树的方式 这种构建方式的好处 示例说明 前言 参考:万卡集 阅读全文
posted @ 2025-05-09 22:15 bdy 阅读(51) 评论(0) 推荐(0)
浙公网安备 33010602011771号