测试小站: 处理网 回收帮 培训网 富贵论坛 老富贵论坛

TensorFlow与Pytorch:战斗仍在继续

  本周Facebook宣布发布PyTorch 1.5

  上周,我们回答了以下问题:哪个是深度学习网络编程的最佳框架? 还有今天? Facebook发布了新的PyTorch 1.5,其中包括几个基于Facebook和AWS之间的协作的项目?

  领先的深度学习框架TensorFlow

  当今有许多深度学习框架可用,但是,TensorFlow(由Google开发并于2022年11月作为开源发布)是目前行业中使用最多的框架。

  几周前,TensorFlow发布了TensorFlow 2.2的候选发布版本。 从这个候选版本中,我将重点介绍已宣布的性能改进以及引入的新工具(例如新的Performance Profiler)来帮助评估性能。 它们还增强了TensorFlow生态系统的兼容性,其中包括TensorFlow Extended等关键库。

  PyTorch

  三年前出现了PyTorch的第一个版本,毫无疑问,它获得了巨大的发展动力。 PyTorch最初是由Facebook孵化而成的,它从作为快速实验和原型制作的理想的灵活框架迅速赢得了声誉,在深度学习社区中赢得了成千上万的支持者。 例如,我的研究团队中的博士生选择PyTorch是因为它很简单。 它使他们可以编写看起来很原生的Python代码,并且仍然可以获得良好的框架(如自动区分和内置优化)的所有好处。

  深度学习框架领域的领军人物现在是Google开发的TensorFlow和Facebook开发的PyTorch,他们在使用率,份额和发展势头上都远离了其他市场。

  模型部署

  但是,构建和训练模型只是故事的一半。 在生产中部署和管理模型通常也是困难的部分,例如,构建定制的预测API并对其进行扩展。

  解决模型部署过程的一种方法是使用模型服务器,以使其易于加载一个或多个模型,并自动创建由可伸缩Web服务器支持的预测API。 直到现在,生产环境中的可部署性仍然是TensorFlow的优势,TensorFlow Serving是最受欢迎的模型服务器。

  正如我们已经取得的进步,本周Facebook宣布了PyTorch 1.5的发布。 新版本侧重于提供工具和框架,以使PyTorch工作流能够投入生产。 此文章发布的最显着方面是AWS和Facebook在项目TorchServe中的协作,该项目是PyTorch的开源模型服务器。

  根据AWS博客,一些客户已经在享受TorchServe的好处。 丰田研究院高级开发公司正在丰田汽车公司开发自动驾驶软件。 或Matroid,这是一种计算机视觉软件的制造商,可检测视频镜头中的对象和事件。

  随着PyTorch不可阻挡的崛起,TensorFlow的深度学习优势可能正在减弱。

  PyTorch 1.5发布

  显然,这个新的PyTorch版本包含更多功能。 重点是torch_xla,torchaudio,torchvision,torchtext和与TorchElastic集成的新库的更新软件包。 让我对它们做一个简短的总结:

  · TorchElastic是一个用于大规模培训大规模深度神经网络的库,具有动态适应服务器可用性的能力。 在此版本中,AWS和Facebook通过以Kubernetes的TorchElastic Controller的形式将其与Kubernetes集成,合作来扩展TorchElastic的功能。 要了解更多信息,请参阅TorchElastic回购。

  · torch_xla是一个Python软件包,它使用XLA线性代数编译器来加速Cloud TPU和Cloud TPU Pod上的PyTorch深度学习框架。 torch_xla旨在使PyTorch用户能够在Cloud TPU上的GPU上完成他们可以做的所有事情,同时最大程度地减少用户体验的变化。 完整的文档和教程可在此处和此处找到。

  · torchvision 0.6版本包括对数据集,模型的更新以及大量错误修复。 完整的文档可以在这里找到。

  · Torchaudio 0.5版本包括新的转换,功能和数据集。 请在此处查看发行说明。

  · torchtext 0.6版本包含许多错误修复,文档改进以及基于用户反馈的数据集抽象也正在重新设计中。 完整的文档可以在这里找到。

  · 此版本包括重要的核心功能,例如对C ++前端的重大更新或用于模型并行训练的分布式RPC框架的稳定版本。 该版本还具有允许创建自定义C ++类的API。 您可以在此处找到详细的发行说明。

  PyTorch 1.5版本暗示,AWS与Facebook的合作可能是朝着使AWS成为运行PyTorch程序的首选云运行时的第一步。

  总结一下

  尽管得益于Facebook(和AWS),PyTorch在市场上获得了增长动力,但TensorFlow仍在所有方面都处于领先地位,例如已经启动了认证计划便证明了这一点。

  Google继续在加强TensorFlow平台堆栈方面进行大量投资。 但是还有待观察的是,Facebook是否会继续以同样的节奏投资PyTorch,以使其至少与TensorFlow在功能上保持一致。

  展望未来,正如我们在上一篇文章中已经讨论的那样,这些框架之间的功能差距将继续缩小。

  TensorFlow还是PyTorch?深度学习网络编程的最佳框架是哪一个?

posted @ 2022-01-12 19:59  linjingyg  阅读(140)  评论(0)    收藏  举报