罗西的思考 - 博客园

2021年11月

摘要：本文以 PyTorch 官方文档 https://pytorch.org/tutorials/intermediate/dist_tuto.html 为基础，对如何编写分布式进行了介绍，并且加上了自己的理解。阅读全文

posted @ 2021-11-13 09:23 罗西的思考阅读(7366) 评论(0) 推荐(2)

摘要：本文是 PyTorch 分布式的第三篇，继续上文，介绍 DataPrallel 的并行操作和反向传播。阅读全文

posted @ 2021-11-11 08:39 罗西的思考阅读(2307) 评论(2) 推荐(3)

摘要：从本文开始，我们介绍 PyTorch 的数据并行，本文是第一篇，介绍 DataPrallel，因为字数太多（1万两千多字，因此拆分成两篇文章发布）。阅读全文

posted @ 2021-11-09 20:11 罗西的思考阅读(3504) 评论(3) 推荐(3)

摘要：在 PyTorch DataParallel 训练过程中，其会在多个GPU之上复制模型副本，然后才开始训练。笔者在分析过程中，发现如果不把一些GPU相关基础知识整理出来，很难理解DataParallel的这个复制模型的过程，遂有此文。阅读全文

posted @ 2021-11-07 09:14 罗西的思考阅读(6953) 评论(2) 推荐(1)

摘要：本文主要在对PyTorch官方文档的翻译之上加入了自己的理解，希望给大家一个PyTorch分布式的历史脉络和基本概念，有兴趣的朋友可以仔细研究一下历史，看看一个机器学习系统如何一步一步进入分布式世界 / 完善其功能。阅读全文

posted @ 2021-11-03 08:58 罗西的思考阅读(5643) 评论(0) 推荐(1)

摘要：前文中我们介绍了反向传播引擎的动态逻辑，因为具体反向传播算法是在设备线程中完成的，所以我们单独用一章来讲解。阅读全文

posted @ 2021-11-01 08:47 罗西的思考阅读(1778) 评论(0) 推荐(1)

2021年10月

摘要：前文我们提到了 autograd 引擎的静态架构，本文开始我们从动态角度看看引擎是如何运作的。阅读全文

posted @ 2021-10-29 16:48 罗西的思考阅读(1982) 评论(1) 推荐(2)

摘要：前文最终我们提到了如下代码就是调用引擎来进行反向传播，本文我们首先从静态角度来看引擎，就是看看其数据结构和静态性质。阅读全文

posted @ 2021-10-27 20:02 罗西的思考阅读(2272) 评论(0) 推荐(1)

摘要：本系列将通过大概十篇左右文章来分析 PyTorch 的自动微分功能如何实现。本文是后向传播的第一篇，介绍调用流程：如何从 Python 代码进入到 C++ autograd 引擎。阅读全文

posted @ 2021-10-25 19:29 罗西的思考阅读(3650) 评论(0) 推荐(1)

摘要：本系列将通过大概十篇左右文章来分析 PyTorch 的自动微分功能如何实现。本文是前向传播的第三篇，介绍具体实现机制。阅读全文

posted @ 2021-10-23 09:57 罗西的思考阅读(4038) 评论(1) 推荐(2)