吴建明wujianming

2021年11月16日

摘要： Dorado用法与示例 dorado用后总结一.dorado概念 dorado的产品全名是“dorado展现中间件”。从产品形态上dorado由两部分组成，第一部分是一个具有AJAX特征的Web应用表现层的快速开发框架，第二部分配套的IDE开发工具。开发工具又可分为独立的dorado studio 阅读全文

posted @ 2021-11-16 15:51 吴建明wujianming 阅读(1226) 评论(0) 推荐(0)

如何在CPU上优化GEMM矩阵乘法

摘要：如何在CPU上优化GEMM矩阵乘法 How to optimize GEMM on CPU (TL;DR) TVM 提供抽象接口，允许用户分别描述算法和算法的实现组织（所谓的调度）。通常，在高性能调度中编写算法会破坏算法的可读性和模块化。此外，尝试各种看似有希望的调度也很耗时。在 TVM 的帮助下，阅读全文

posted @ 2021-11-16 14:37 吴建明wujianming 阅读(604) 评论(0) 推荐(0)

GPU创业之火

摘要： GPU创业之火壁仞，燧原，沐曦，天数，希姆，翰博，摩尔线程壁仞科技首款7nm芯片尚未流片，为何又获前AMD全球副总裁加盟？观察者网梳理发现，GPU（Graphics processing unit）被称作显示芯片，是擅长做图像图形相关运算工作的微处理器。GPGPU全称是通用图形处理器（Gene 阅读全文

posted @ 2021-11-16 06:20 吴建明wujianming 阅读(2907) 评论(0) 推荐(0)

2021年11月15日

Yolo v4, v3 and v2 性能极简图示

摘要： Yolo v4, v3 and v2 性能图示 https://github.com/AlexeyAB/darknet 参考链接： https://github.com/AlexeyAB/darknet 阅读全文

posted @ 2021-11-15 19:04 吴建明wujianming 阅读(132) 评论(0) 推荐(0)

英伟达TensorRT 8-bit Inference推理

摘要：英伟达TensorRT 8-bit Inference推理引论 ● 目标：将FP32 CNN转换为INT8，不会造成显著的精度损失。 ● 原因：Int8 Math具有更高的吞吐量和更低的内存需求。 ● 挑战：INT8的精度和动态范围，明显低于FP32。 ● 解决方案：在将训练模型权权重化为INT8 阅读全文

posted @ 2021-11-15 06:01 吴建明wujianming 阅读(573) 评论(0) 推荐(0)

2021年11月14日

如何将自定义代码生成TVM

摘要：如何将自定义代码生成TVM 如何将自定义代码生成TVM 本文参考链接： https://tvm.apache.org/docs/dev/how_to/relay_bring_your_own_codegen.html https://blog.csdn.net/weixin_42164269/art 阅读全文

posted @ 2021-11-14 07:09 吴建明wujianming 阅读(234) 评论(0) 推荐(0)

2021年11月13日

TVM代码流程分析

摘要： TVM代码流程分析 TVM - 代码生成流程本节主要介绍TVM的代码生成流程，即调用relay.build或tvm.build之后发生了什么，将深入到TVM的源代码进行剖析。（这里采用的依然是TVM v0.6）首先区分两个build的区别：tvm.build主要针对单一算子（参照Tensor E 阅读全文

posted @ 2021-11-13 18:00 吴建明wujianming 阅读(771) 评论(1) 推荐(0)

TVM实现hardware backend

摘要： TVM实现hardware backend官方的矩阵相加的示例如下：2个矩阵相加的实现for (int i = 0; i < n; ++i) { C[i] = A[i] + B[i];}怎么优化？可以并行相加，如下for (int bx = 0; bx < ceil(n / 64); ++bx) 阅读全文

posted @ 2021-11-13 06:10 吴建明wujianming 阅读(716) 评论(0) 推荐(0)

2021年11月12日

TVM自定义修改代码示例

摘要： TVM自定义修改代码示例一．TVM设备添加代码因为要添加的设备是一种类似于GPU的加速卡，TVM中提供了对GPU编译器的各种支持，有openCl，OpenGL和CUDA等，这里选取比较熟悉的CUDA进行模仿生成。总体上看，TVM是一个多层的结构。 TVM在python这一层提供了相关的设备接口，阅读全文

posted @ 2021-11-12 06:22 吴建明wujianming 阅读(361) 评论(0) 推荐(0)

2021年11月11日

tvm模型部署c++ 分析

摘要： tvm模型部署c++ 分析 tvm c++部署官方教程 https://github.com/apache/tvm/tree/main/apps/howto_deploy https://tvm.apache.org/docs/how_to/deploy/cpp_deploy.html 官方说执行r 阅读全文

posted @ 2021-11-11 06:10 吴建明wujianming 阅读(727) 评论(0) 推荐(0)

吴建明

微信视频号：sph0RgSyDYV47z6 快手号：4874645212 抖音号：dy0so323fq2w 小红书号：95619019828 B站1：UID:3546863642871878 B站2：UID: 3546955410049087

公告