牛犁heart

摘要： 在本教程中，把注意力转向 TVM 如何使用张量表达式（Tensor Expression，简称 TE）定义张量计算并应用循环优化。TE 以纯函数式语言描述张量计算（即每个表达式都没有副作用）。从 TVM 的整体来看，Relay 将计算描述为一组算子，这些算子都可以表示为 TE 表达式，每个 TE 表 阅读全文

摘要： 在本节，将介绍与TVMC相同的知识，但展示的是如何使用Python API来完成它。完成本节后，我们将使用适用于 TVM 的 Python API 来完成以下任务： 为TVM Runtime编译预训练的ResNet-50 v2模型 通过编译的模型运行真实图像，并解释输出和模型性能。 使用TVM在CP 阅读全文

摘要： Step 0: Imports from tvm.driver import tvmc Step 1: Load a model 下载模型： wget https://github.com/onnx/models/raw/b9a54e89508f101a1611cd64f4ef56b9cb62c7c 阅读全文

摘要： TVMC介绍 TVMC,是TVM的命令行驱动程序，TVMC是一种通过命令行界面公开TVM功能的工具，例如uto-tuning/compiling/profiling和通过命令行接口运行模型 在完成本节内容后，将使用 TVMC 来完成以下任务： 为 TVM 运行时编译预训练 ResNet-50 v2 阅读全文

摘要： TVM整体流程(参考：TVM介绍) 机器学习模型在用TVM优化编译器框架进行变换时的步骤： 从Tensorflow/pytorch或ONNX等框架导入模型 import层是TVM从其他框架中导入模型的地方 注：TVM为每个前端提供的支持水平不尽相同，可尝试将模型转换为ONNX 转换到Relay Re 阅读全文

摘要： docker安装 可自行到https://tvm.apache.org/docs/install/docker.html 官网下载安装 环境： 系统： ubuntu22.04系统， docker版本： 20.10.17 cuda: 11.6 因此在安装时选用了nvidia/cuda:11.6.1-d 阅读全文

摘要： 上一讲,对OpenPPL进行了介绍,以及通过官方文档,学习了它的python与C++的操作流程,以及如添加新的引擎与Op算子. 本节,将通过阅读代码通过UML梳理操作流程以及类之间的相互关系 src地址为：https://github.com/openppl-public/ppl.nn 一 流程时序 阅读全文

摘要： OpenPPL OpenPPL是商汤基于自研高性能算字库的开源深度学习推理平台，能够让人工智能应用高效可靠地运行在现有的CPU/GPU等计算平台上，为云端场景提供人工智能推理服务 OpenPPL基于全自研高性能算子库，拥有极致调优的性能，同时提供云原生环境下的 AI模型多后端部署能力，并支持Open 阅读全文

摘要： ubuntu安装中文输入法成功教程： https://zhuanlan.zhihu.com/p/508797663 博主希望尽量的不去宿主机中操作，达到对原系统的保护的效果，并且能够进行日常的深度学习网络的训练，因此想到了docker(Kubernetes 太高端) 使用docker安装带有显卡的镜 阅读全文

摘要： 机器学习编译课程主要由华盛顿大学计算机系博士生 -- 陈天奇博士讲授，在读博期间，先后带领团队打造了模块化深度学习系统NNVM（2016年）和深度学习编译器TVM（2017年），共同组成了深度学习到各种硬件的完整优化工具链。 英文课程主页 https://mlc.ai/summer22/ 中文课程主 阅读全文