摘要: 轻量级模型设计与部署总结 轻量级网络的手动设计目前还没用广泛通用的准则,只有一些指导思想,和针对不同芯片平台(不同芯片架构)的一些设计总结,建议大家从经典论文中吸取指导思想和建议,然后自己实际做各个硬件平台的部署和模型性能测试。 阅读全文
posted @ 2022-11-25 16:18 嵌入式视觉 阅读(639) 评论(0) 推荐(1) 编辑
摘要: NCNN 模型推理详解及实战 本文首先描述了 ncnn 推理框架的依赖库的知识,及相关 cpu 和内存硬件特性描述。最后结合 shufflenet sample 解析了,模型推理的全部流程,详解了 sample 代码的每个细节。 阅读全文
posted @ 2023-03-28 21:11 嵌入式视觉 阅读(1239) 评论(0) 推荐(0) 编辑
摘要: 深度学习模型压缩方法概述 我们知道,一定程度上,网络越深,参数越多,模型也会越复杂,但其最终效果也越好,而模型压缩算法是旨在将一个庞大而复杂的大模型转化为一个精简的小模型。之所以必须做模型压缩,是因为嵌入式设备的算力和内存有限,经过压缩后的模型方才能部署到嵌入式设备上。工业界的模型压缩方法有:知识蒸馏、轻量化模型架构、剪枝、量化。 阅读全文
posted @ 2023-03-14 23:27 嵌入式视觉 阅读(746) 评论(0) 推荐(0) 编辑
摘要: 基于pytorch实现模型剪枝 所谓模型剪枝,其实是一种从神经网络中移除"不必要"权重或偏差(weigths/bias)的模型压缩技术。本文深入描述了 pytorch 框架的几种剪枝 API,包括函数功能和参数定义,并给出示例代码。 阅读全文
posted @ 2023-02-23 23:42 嵌入式视觉 阅读(430) 评论(0) 推荐(0) 编辑
摘要: 深度学习基础-优化算法详解 所谓深度神经网络的优化算法,即用来更新神经网络参数,并使损失函数最小化的算法。优化算法对于深度学习非常重要,网络参数初始化决定模型是否收敛,而优化算法的性能则直接影响模型的训练效率。 阅读全文
posted @ 2023-02-23 16:07 嵌入式视觉 阅读(454) 评论(0) 推荐(0) 编辑
摘要: Backbone 网络-ResNet 论文解读 残差网络(ResNet)的提出是为了解决深度神经网络的“退化”(优化)问题。ResNet 通过设计残差块结构,调整模型结构,让更深的模型能够有效训练更训练。 阅读全文
posted @ 2023-02-22 21:27 嵌入式视觉 阅读(403) 评论(0) 推荐(1) 编辑
摘要: 模型压缩-剪枝算法详解 近年来主流的模型压缩方法包括:数值量化(Data Quantization,也叫模型量化),模型稀疏化(Model sparsification,也叫模型剪枝 Model Pruning),知识蒸馏(Knowledge Distillation), 轻量化网络设计(Lightweight Network Design)和 张量分解(Tensor Decomposition)。其中模型剪枝是一种应用非常广的模型压缩方法,其可以直接减少模型中的参数量。本文会对模型剪枝的定义、发展历程、分类以及算法原理进行详细的介绍。 阅读全文
posted @ 2023-02-22 03:01 嵌入式视觉 阅读(1386) 评论(0) 推荐(0) 编辑
摘要: 互联网技术大佬独立博客推荐 国内外技术大佬的独立博客站点推荐和介绍。 阅读全文
posted @ 2023-02-20 20:15 嵌入式视觉 阅读(999) 评论(0) 推荐(2) 编辑
摘要: 万字长文概述单目3D目标检测算法 基于深度学习的主流单目3D目标检测算法可以分为两个过程:2D目标检测 + 基于投影几何原理的回归网络设计。本文首先介绍了单目 3D 目标检测的理论基础-投影几何原理和算法原理,并解读了几个主流模型。 阅读全文
posted @ 2023-02-17 22:41 嵌入式视觉 阅读(1392) 评论(0) 推荐(3) 编辑
摘要: 神经网络基础部件-卷积层详解 本文深度讲解了卷积计算的原理,并详细介绍了构成所有卷积网络主干的基本元素,包括卷积层本身、填充(padding)和步幅 (stride)的基本细节、用于在相邻区域汇聚信息的汇聚层(pooling),最后给出卷积层和汇聚层的代码示例和CNN框架结构图。 阅读全文
posted @ 2023-02-16 02:41 嵌入式视觉 阅读(759) 评论(0) 推荐(1) 编辑
摘要: 深度学习炼丹-数据标准化 当我们处理的数据具有不同尺度时,执行数据标准化操作是很有必要的。本文给出了数据标准化(Normalization)的定义、常用方法以及为什么要做数据标准化,并给出相关代码实现。 阅读全文
posted @ 2023-02-10 21:45 嵌入式视觉 阅读(590) 评论(0) 推荐(0) 编辑