罗西的思考 - 博客园

2021年7月

[源码解析] 深度学习分布式训练框架 horovod (10) --- run on spark

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本文是系列第十篇，看看horovod 如何运行在 spark 之上。阅读全文

posted @ 2021-07-05 06:25 罗西的思考阅读(997) 评论(0) 推荐(0)

[源码解析] 深度学习分布式训练框架 horovod (9) --- 启动 on spark

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本文是系列第九篇，介绍 horovod on spark 如何启动。阅读全文

posted @ 2021-07-03 09:01 罗西的思考阅读(707) 评论(0) 推荐(0)

2021年6月

[源码解析] 深度学习分布式训练框架 horovod (8) --- on spark

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。接下来几篇介绍 horovod 如何运行在 spark 之上。本文是第八篇，介绍 horovod on spark 的总体架构。阅读全文

posted @ 2021-06-30 08:22 罗西的思考阅读(1304) 评论(0) 推荐(4)

[源码解析] 深度学习分布式训练框架 horovod (7) --- DistributedOptimizer

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第七篇，看看 Horovod 如何与 TensorFlow 融合。阅读全文

posted @ 2021-06-28 08:06 罗西的思考阅读(2363) 评论(0) 推荐(0)

[源码解析] 深度学习分布式训练框架 horovod (6) --- 后台线程架构

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本文是系列第六篇，看看 Horovod 后台线程架构。阅读全文

posted @ 2021-06-24 07:39 罗西的思考阅读(2230) 评论(0) 推荐(0)

[源码解析] 深度学习分布式训练框架 horovod (5) --- 融合框架

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本文是系列第五篇，看看 Horovod 如何融合各个机器学习框架。阅读全文

posted @ 2021-06-21 08:39 罗西的思考阅读(2096) 评论(0) 推荐(0)

[源码解析] 深度学习分布式训练框架 horovod (4) --- 网络基础 & Driver

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第四篇，看看如何获取 host 之间的路由等网络信息。阅读全文

posted @ 2021-06-17 19:15 罗西的思考阅读(1505) 评论(0) 推荐(0)

[源码解析] 深度学习分布式训练框架 horovod (3) --- Horovodrun背后做了什么

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。本文是系列第三篇，从 python 开始进入 Horovod 世界，看看 Horovodrun 背后做了什么。阅读全文

posted @ 2021-06-15 08:22 罗西的思考阅读(3462) 评论(1) 推荐(0)

[源码解析] 深度学习分布式训练框架 horovod (2) --- 从使用者角度切入

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。系列大约有15 ～ 18 篇，本文是系列第二篇，从用户角度切入 Horovod。阅读全文

posted @ 2021-06-10 09:16 罗西的思考阅读(4782) 评论(1) 推荐(1)

[源码解析] 深度学习分布式训练框架 Horovod (1) --- 基础知识

摘要： Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列将通过源码分析来带领大家了解 Horovod。系列大约有15 ～ 18 篇，本文是系列第一篇，介绍相关背景知识。阅读全文

posted @ 2021-06-07 09:33 罗西的思考阅读(6177) 评论(4) 推荐(0)

公告