【论文学习8】TernGrad: Ternary Gradients to Reduce Communication in Distributed Deep Learning
摘要：
演讲摘要（即论文摘要） 作者视频讲解：https://www.youtube.com/watch?v=WWWQXTb_69c&feature=youtu.be&t=20s 摘要 分布式训练的瓶颈为同步梯度和参数的高网络通信成本。在论文中，我们提出了三元梯度来加速分布式学习。只需要一个三元数组{ 1, 阅读全文
posted @ 2020-03-23 12:13 20189223 阅读(966) 评论(0) 推荐(0) 编辑
