2022年2月28日
深度学习笔记30 分布式计算（水一期）
摘要： 因为分布式计算也没法跑，也没代码，这个太复杂了，仍然是听理论即可。 GPU机器架构： 机器的效率是有一个比较明确的层级关系的，我们应该尽量在GPU之间做数据交换，实在不行通过CPU去内存做交换，但是应该尽量避免机器之间的数据交换。 能在本地做的尽量在本地做，尽可能减少机器的交互次数。 并行的时候，一 阅读全文
posted @ 2022-02-28 16:12 爱和九九 阅读(71) 评论(0) 推荐(0)