吴建明wujianming

2021年2月24日

摘要：达芬奇架构NPU 达芬奇架构的核心优势是什么？如何更好地赋能麒麟990？达芬奇架构，是华为自研的面向AI计算特征的全新计算架构，具备高算力、高能效、灵活可裁剪的特性，是实现万物智能的重要基础。具体来说，达芬奇架构采用3D Cube针对矩阵运算做加速，大幅提升单位功耗下的AI算力，每个AI Core 阅读全文

posted @ 2021-02-24 06:25 吴建明wujianming 阅读(2106) 评论(0) 推荐(0)

3D Cube计算引擎加速运算

摘要： 3D Cube计算引擎加速运算华为达芬奇架构的AI芯片Ascend910，同时与之配套的新一代AI开源计算框架MindSpore。为什么要做达芬奇架构？ AI将作为一项通用技术极大地提高生产力，改变每个组织和每个行业。为了实现AI在多平台多场景之间的协同，华为设计达芬奇计算架构，在不同体积和功耗阅读全文

posted @ 2021-02-24 06:07 吴建明wujianming 阅读(568) 评论(0) 推荐(0)

2021年2月23日

RISC-V与DSA计算机架构

摘要： RISC-V与DSA计算机架构相信所有和计算机体系结构打过交道的朋友们都看过David Patterson与John Hennessy的煌煌巨作,《计算机体系架构：量化研究方法》。两位在计算机架构领域鼎鼎大名的教授，一个来自加州大学伯克利分校，另一个来自斯坦福。首先上场的是David Patte 阅读全文

posted @ 2021-02-23 06:25 吴建明wujianming 阅读(1401) 评论(0) 推荐(0)

开源软硬一体OpenCV AI Kit（OAK）

摘要：开源软硬一体OpenCV AI Kit（OAK） OpenCV 涵盖图像处理和计算机视觉方面的很多通用算法，是非常有力的研究工具之一，且稳居开发者最喜爱的 AI 工具/框架榜首。 1、会不会被USA禁止啊？ b. 不会， Myriad X 可以销售，性能稍低（嵌入式芯片 4TOPS），被禁的是10 阅读全文

posted @ 2021-02-23 06:01 吴建明wujianming 阅读(993) 评论(0) 推荐(0)

GEMM与AutoKernel算子优化

摘要： GEMM与AutoKernel算子优化随着AI技术的快速发展，深度学习在各个领域得到了广泛应用。深度学习模型能否成功在终端落地应用，满足产品需求，一个关键的指标就是神经网络模型的推理性能。一大波算法工程师为了算法的部署转岗算子优化工程师。优化代码并不是一件简单的事，要求工程师既要精通计算机体系架构阅读全文

posted @ 2021-02-23 05:40 吴建明wujianming 阅读(556) 评论(0) 推荐(0)

2021年2月21日

deeplearning搜索空间

摘要： deeplearning搜索空间搜索空间是神经网络搜索中的一个概念。搜索空间是一系列模型结构的汇集, SANAS主要是利用模拟退火的思想在搜索空间中搜索到一个比较小的模型结构或者一个精度比较高的模型结构。 paddleslim.nas 提供的搜索空间根据初始模型结构构造搜索空间: MobileN 阅读全文

posted @ 2021-02-21 11:30 吴建明wujianming 阅读(175) 评论(0) 推荐(0)

deeplearning算法优化原理

摘要： deeplearning算法优化原理目录· 量化原理介绍 · 剪裁原理介绍 · 蒸馏原理介绍 · 轻量级模型结构搜索原理介绍 1. Quantization Aware Training量化介绍1.1 背景近年来，定点量化使用更少的比特数（如8-bit、3-bit、2-bit等）表示神经网络的权重和阅读全文

posted @ 2021-02-21 10:47 吴建明wujianming 阅读(320) 评论(0) 推荐(0)

deeplearning模型库

摘要： deeplearning模型库 1. 图像分类数据集：ImageNet1000类 1.1 量化分类模型Lite时延(ms) 设备模型类型压缩策略 armv7 Thread 1 armv7 Thread 2 armv7 Thread 4 armv8 Thread 1 armv8 Thread 阅读全文

posted @ 2021-02-21 07:23 吴建明wujianming 阅读(226) 评论(0) 推荐(0)

硬件delay评估表

摘要：硬件delay评估表硬件延时评估表用于快速评估一个模型在特定硬件环境和推理引擎上的推理速度。 Bw 主要用于定义PaddleSlim支持的硬件延时评估表的格式。概述硬件延时评估表中存放着所有可能的操作对应的延时信息，该表中的一个操作包括操作类型和操作参数，比如：操作类型可以是conv2d，对应阅读全文

posted @ 2021-02-21 07:05 吴建明wujianming 阅读(116) 评论(0) 推荐(0)

Deeplearning知识蒸馏

摘要： Deeplearning知识蒸馏 merge paddleslim.dist.merge(teacher_program, student_program, data_name_map, place, scope=fluid.global_scope(), name_prefix='teacher_ 阅读全文

posted @ 2021-02-21 06:56 吴建明wujianming 阅读(129) 评论(0) 推荐(0)

吴建明

微信视频号：sph0RgSyDYV47z6 快手号：4874645212 抖音号：dy0so323fq2w 小红书号：95619019828 B站1：UID:3546863642871878 B站2：UID: 3546955410049087

公告