摘要：
## 1 端侧推理框架经验总结 总结下最近用过的一些框架，并介绍他们的主要特点和转换过程。 1. onnxruntime 2. ncnn 3. mnn 4. tensorflow lite 5. huawei hiai 6. paddlelite ## 2 模型部署转换过程 我们以torchvisi 阅读全文
摘要：
## 1 复现PaddleLite v2.11 demo 为什么复现2.11的版本呢？因为2.12的复现不出来. ### 2.1 准备 1. 设备: 九鼎创展 x1808开发板. 默认ssh账户root,密码123456 - 刷机要点: 按住K1键，然后板子上电，进入LOADER模式，使用瑞芯微提供 阅读全文
摘要：
## 1 编译ncnn ### 1.1 依赖 1. [ncnn@20230517](https://github.com/Tencent/ncnn/tree/20230517) 2. [protobuf@3.20.x](https://github.com/protocolbuffers/proto 阅读全文
摘要：
根据PaddleLite v2.12版本的[文档](https://www.paddlepaddle.org.cn/lite/v2.12/performance/benchmark_tools.html),Paddle已经提供了一个再Linux,MacOS以及Android平台上的C++ Bench 阅读全文
摘要：
针对Intel的CPU电源策略的考虑： 1. P-State,C-State分别意味着什么? 2. 为什么调整CPU的P-State并添加负载，CPU状态会调整回来。 3. 是Linux调整，还是CPU自己调整的，C-State是OS在调整 ## 1 基本概念 ### 1.1 C-State and 阅读全文
摘要：
## 1 [MobileOne](https://arxiv.org/pdf/2206.04040.pdf) ### 1.1 重要分析(Insight) 1. 作者为了找到**端侧推理时模型架构中的瓶颈部分**，它基于CoreML在iPhone上进行了延迟测试。 2. 经过测试，作者认为对于移动设备 阅读全文
该文被密码保护。 阅读全文
摘要：
代码详见 `https://github.com/SheepHuan/UnifiedModelBenchmark/tree/onnxruntime_android` ## 1 环境配置 ### 1.1 依赖库 - google gflags - microsoft onnxruntime ### 1 阅读全文
摘要：
## 1 CoDL MobiSys2021 技术介绍 CoDL是一个移动设备上并行DL推理框架,它基于Xiaomi MACE框架开发,主要利用手机SoC的CPU和GPU并行加速模型推理过程,而当前的主要的推理框架还是依次只利用一个设备去推理. ### 1.1 挑战和解决方案 1. 减少异构处理器之间 阅读全文
摘要：
## 创建 Docker 容器 ```bash # 1. 要求映射usb文件夹到docker /dev/bus/usb:/dev/bus/usb docker run -it --privileged=true -v /dev/bus/usb:/dev/bus/usb -v /home/yanghu 阅读全文