horovod
摘要：
**使用多个GPU卡训练同一个深度学习任务就是分布式计算** Russian like https://www.sohu.com/a/340384890_120053730 Horovod 是 什 么 ？ Horovod是基于Ring-AllReduce方法的深度分布式学习插件，以支持多种流行架构包 阅读全文
posted @ 2020-07-03 17:00 石圪节胡德禄 阅读(253) 评论(0) 推荐(0) 编辑
nvidia-smi 关键知识
摘要：
Memory-Usage 是显存使用率 6423MiB / 11177MiB 也就是这一栏 Volatile GPU util 34% GPU利用率 主要是看这两个 还有一个关键要素 显存占用和GPU占用是两个不一样的东西， **显卡是由GPU和显存等组成的**， 显存和GPU的关系 有点类似于内存 阅读全文
posted @ 2020-07-03 16:42 石圪节胡德禄 阅读(259) 评论(0) 推荐(0) 编辑
pycharm基本设置
摘要：
https://zhuanlan.zhihu.com/p/36264450 https://blog.csdn.net/qq_40130759/article/details/79421242 阅读全文
posted @ 2020-07-03 10:12 石圪节胡德禄 阅读(142) 评论(0) 推荐(0) 编辑
