2024年11月30日
[C++][MSVC][Error] 检测到 RuntimeLibrary 的不匹配项: 值 MT_StaticRelease 不匹配值 MD_DynamicRelease
摘要： 1 简介 本文将介绍在 C++ 编程中使用 MSVC 编译器时可能遇到的错误：检测到 RuntimeLibrary 的不匹配项：值 MT_StaticRelease 不匹配值 MD_DynamicRelease。该错误通常是由于编译器和链接器之间的设置不一致引起的。 2 VisualStudio环境 阅读全文
posted @ 2024-11-30 11:25 Zheng-Bicheng 阅读(777) 评论(0) 推荐(0)
[C++][MSVC][Error] __acrt_first_block == header
摘要： 1 简介 当你使用 MSVC 编译器时遇到的 __acrt_first_block == header 错误通常与内存管理问题有关，特别是涉及到 C 运行时库 (CRT)。这个错误通常是由于不同模块（如 DLL 和 EXE）在使用不同 CRT 时分配和释放内存的方式不匹配引起的。具体来说，当使用 / 阅读全文
posted @ 2024-11-30 11:21 Zheng-Bicheng 阅读(314) 评论(0) 推荐(0)
使用 Eigen 实现 CosineSimilarity 函数
摘要： 1 简介 Eigen 是一个高效、易于使用的C++模板库，广泛应用于线性代数计算。本文将介绍如何使用 Eigen 实现 CosineSimilarity 函数，这是一种常用的相似度度量方法，可以用于衡量两个向量之间的相似程度。通过 Eigen 的矩阵运算和向量运算，我们可以快速、准确地实现 Cosi 阅读全文
posted @ 2024-11-30 11:16 Zheng-Bicheng 阅读(88) 评论(0) 推荐(0)
基于 Eigen 实现 Softmax 函数
摘要： 1 简介 Eigen 是一个高效、易于使用的 C++ 模板库，广泛应用于线性代数计算。本文将介绍如何使用 Eigen 实现 Softmax 函数，这是一种常用的归一化函数，在深度学习中具有重要应用。通过 Eigen 的矩阵运算和向量运算，我们可以快速、准确地实现 Softmax 函数，提高深度学习模 阅读全文
posted @ 2024-11-30 11:11 Zheng-Bicheng 阅读(77) 评论(0) 推荐(0)
使用 C++ 实现 FP16 转 FP32 算法
摘要： 1 简介 在当今高性能计算和深度学习领域，半精度浮点数（FP16）因其存储空间小、计算效率高的特点而被广泛应用。然而，在某些场景下，如精度要求较高的科学计算或者需要与 FP32 数据格式兼容的情况，将 FP16 转换为 FP32 就显得尤为重要。本文将介绍一种基于 C++ 实现的 FP16 到 FP 阅读全文
posted @ 2024-11-30 11:04 Zheng-Bicheng 阅读(387) 评论(0) 推荐(0)
2024年11月29日
在 Keil 上使用 TVM 在 AVH 环境下运行 Paddle 模型
摘要： 1 简介 截止至目前为止，在裸机设备上运行机器学习任务是比较困难的，其难点我认为主要集中在运行性能有限、跨设备难度高、跨框架难度高这两点上。在裸机上部署机器学习任务时，除了芯片产商自带的推理框架外，比较经典的跨设备框架就是 TFLite，但是 TFLite 也有其自己的缺点，那就是不能跨框架。TVM 阅读全文
posted @ 2024-11-29 18:30 Zheng-Bicheng 阅读(59) 评论(0) 推荐(0)
使用 Keil 新建 Arm Visual Hardware(AVH) 项目
摘要： 1 新建并配置项目 1.1 新建项目 我这里想模拟 Cortex-M55 核心，因此选择 SSE-300-MPS3 由于是简单教程，我只想输出一个最简单的 Hello World，因此仅勾选串口相关的组件 这里还需要特殊勾选一下以下选项 1.2 配置Target Software Model 处选择 阅读全文
posted @ 2024-11-29 18:24 Zheng-Bicheng 阅读(123) 评论(0) 推荐(0)
轻松掌握 microTVM 编译步骤
摘要： 1 引言 在当今快速发展的机器学习领域，TVM已经成为了一个不可或缺的工具。尤其是MicroTVM，作为TVM的一个重要分支，它专注于在资源受限的微控制器上运行机器学习模型，这在物联网（IoT）和边缘计算的背景下显得尤为重要。MicroTVM的存在极大地推动了机器学习模型在更小、更省电的设备上的应用 阅读全文
posted @ 2024-11-29 18:19 Zheng-Bicheng 阅读(123) 评论(0) 推荐(0)
为 TVM 添加对 Paddle 量化模型的支持
摘要： 1 简介 随着深度学习应用的广泛使用，量化模型作为一种有效的模型压缩技术，能够在保持模型精度的同时减少模型的计算和存储开销。本文将介绍如何在 TVM 上为 Paddle 深度学习框架中的量化模型提供解析支持。 2 量化方法 目前主流的的量化方法主要分为 QOperator 和 QDQ(Quantiz 阅读全文
posted @ 2024-11-29 18:10 Zheng-Bicheng 阅读(88) 评论(0) 推荐(0)
为 TVM 添加对 Paddle NHWC 模型的支持
摘要： 1 简介 在深度学习领域，模型的部署是一个关键的环节。而在模型部署中，转换和优化模型以适配不同的硬件和框架是至关重要的。TVM 是一个优秀的深度学习模型优化和部署框架，它提供了丰富的接口和功能来实现模型的高效部署。然而，对于一些特定框架和模型格式，TVM 可能需要进行一些扩展和定制，以更好地支持。在 阅读全文
posted @ 2024-11-29 18:00 Zheng-Bicheng 阅读(36) 评论(0) 推荐(0)