随笔分类 -  模型推理

摘要：欢迎关注我的公众号 [极智视界]，回复001获取Google编程规范 O_o >_< o_O O_o ~_~ o_O 大家好，我是极智视界，本文剖析一下ACIQ 对称量化算法实现，以 Tengine 的实现为例。 这是量化实现的第三篇，前面还有一、二，有兴趣的同学可以查阅 (1) 《【模型推理】量化 阅读全文

摘要：欢迎关注我的公众号 [极智视界]，回复001获取Google编程规范 O_o >_< o_O O_o ~_~ o_O 大家好，我是极智视界，本文剖析一下 KL 对称量化算法实现，以 Tengine 的实现为例。 前面已经写过一篇《【模型推理】量化实现分享一：详解 min-max 对称量化算法实现》， 阅读全文

摘要：欢迎关注我的公众号 [极智视界]，回复001获取Google编程规范 O_o >_< o_O O_o ~_~ o_O 大家好，我是极智视界，本文剖析一下 min-max 对称量化算法实现，以 Tengine 的实现为例。 Tengine 是 OpenAILab 开源的优秀端侧深度学习推理框架，其核心 阅读全文

摘要：欢迎关注我的公众号 [极智视界]，回复001获取Google编程规范 O_o >_< o_O O_o ~_~ o_O 本文介绍一下 Tengine 模型转换及量化流程。 Tengine 同 ncnn 一样，也是优秀的端侧推理框架，前面写过一篇《ncnn 模型转换及量化流程》，有兴趣的同学可以查阅。 阅读全文

摘要：欢迎关注我的公众号 [极智视界]，回复001获取Google编程规范 O_o >_< o_O O_o ~_~ o_O 大家好，我是极智视界，本文介绍了用 C++ 实现一般模型推理图片预处理的方法，通用性较强。 大家知道，对于一个视觉深度学习应用来说，主要会涉及几个流程：视频编解码、图像预处理、模型推 阅读全文