摘要: 旷视开源的深度学习框架 MegEngine,MegEngine 是一个快速、可拓展、易于使用且支持自动求导的深度学习框架。 以最新的 release 版本 release-1.13.0 为例介绍一下 MegEngine 的代码结构以及如何学习 MegEngine 的代码。 阅读全文
posted @ 2023-08-17 15:40 MegEngine 阅读(22) 评论(0) 推荐(0) 编辑
摘要: 本文将介绍 Python 层的 quantization 模块。量化是为了减少模型的存储空间和计算量,从而加速模型的推理过程。在量化中,我们将权重和激活值从浮点数转换为整数,从而减少模型的大小和运算的复杂性。通过本文读者将会对量化的基本原理和使用 MegEngine 得到量化模型有所了解。 阅读全文
posted @ 2023-07-31 16:23 MegEngine 阅读(16) 评论(0) 推荐(0) 编辑
摘要: 本文将介绍 Python 层的 functional、module 和 optimizer 模块。理解并掌握这几个模块对于高效搭建神经网络非常重要。 阅读全文
posted @ 2023-07-28 11:16 MegEngine 阅读(15) 评论(0) 推荐(0) 编辑
摘要: 本文介绍 Python 层的 data 模块。读者将通过本文了解到要构建数据 pipeline 所需要的对象,以及如何高效地构建 pipeline。 阅读全文
posted @ 2023-07-21 17:56 MegEngine 阅读(25) 评论(0) 推荐(0) 编辑
摘要: 本文将重点解析模型部署中的重要步骤之一-模型编译:编译 MegEngine 模型,生成运行这个模型对应的 Kernel 以及和这些 Kernel 绑定的模型。 阅读全文
posted @ 2023-07-06 16:26 MegEngine 阅读(53) 评论(0) 推荐(0) 编辑
摘要: MegEngine 动态执行引擎 Imperative Runtime 架构解析 阅读全文
posted @ 2023-06-16 23:11 MegEngine 阅读(23) 评论(0) 推荐(0) 编辑
摘要: MegCC 支持了基础的 Benchmark 模块用于测试各类模型的推理性能,获取推理时各个 Kernel 的性能数据,分析模型性能瓶颈。 阅读全文
posted @ 2023-06-14 18:03 MegEngine 阅读(33) 评论(0) 推荐(0) 编辑
摘要: 因为 MegEngine 是动静合一的深度学习框架,MegBrain 解决了静态图的训练和推理问题,还需要有一个“组件”负责处理动态图的训练和推理、以及 Python 侧的训练接口,于是便有了 Imperative,也就是说,Imperative Runtime 是为了动态训练而单独设计的一套新接口。 阅读全文
posted @ 2023-06-08 15:38 MegEngine 阅读(30) 评论(0) 推荐(0) 编辑
摘要: MegCC 是一个真真实实的深度学习模型编译器,具备极其轻量的 Runtime 二进制体积,高性能,方便移植,极低内存使用以及快启动等核心特点。用户可在 MLIR 上进行计算图优化,内存规划,最后通过预先写好的 code 模版进行代码生成。 阅读全文
posted @ 2023-05-30 15:42 MegEngine 阅读(80) 评论(0) 推荐(0) 编辑
摘要: roofline 分析是一种简单评估当前计算任务对当前平台计算/访存能力的利用情况的方法,可以帮助分析算子的优化方向和优化潜力。 阅读全文
posted @ 2023-05-16 17:16 MegEngine 阅读(66) 评论(0) 推荐(0) 编辑