2025年5月30日
torch.DistributedDataParallel v.s. DataParallel
摘要： 下面详细对比 PyTorch 中 DistributedDataParallel（简称 DDP）和 DataParallel 的用法和主要区别： 1. 使用方式 DataParallel 用法（单进程多卡，多卡在同一台机器） import torch model = ... # 实例化模型 mode 阅读全文
posted @ 2025-05-30 14:16 Gold_stein 阅读(88) 评论(0) 推荐(0)