分布式训练2

并行策略
1、数据并行
image

2、模型并行
image

3、流水线并行
image

4、混合并行
image

posted on 2025-08-01 15:51  Knight7788  阅读(9)  评论(0)    收藏  举报

博客园  ©  2004-2026
浙公网安备 33010602011771号 浙ICP备2021040463号-3