2024年1月8日
使用docker搭建deepspeed多机多卡分布式微调大模型环境
摘要： 前置环境：两台可以互通的centos服务器（服务器1、服务器2），docker，NVIDIA驱动 一、docker创建overlay共享网络 1）选用服务器1作为manage节点进行初始化，执行docker swarm init Swarm initialized: current node (ly 阅读全文
posted @ 2024-01-08 14:39 sunshine丶23 阅读(855) 评论(0) 推荐(0) 编辑