上一页 1 ··· 12 13 14 15 16 17 18 19 20 ··· 91 下一页
摘要: MobileNet 在进行 INT8 量化时遇到的挑战主要有以下几个原因: 网络结构复杂性: MobileNet 使用深度可分离卷积(Depthwise Separable Convolutions)来减少计算量和参数数量。这种卷积方式使得权重分布更加稀疏且多样化,可能在量化过程中失去一些细微的精度 阅读全文
posted @ 2024-07-26 14:19 海_纳百川 阅读(189) 评论(0) 推荐(0)
摘要: 这一文档介绍些基础概念吧,权当做一个阶段整理,后面也会慢慢完善。 1. 量化分类: 根据谷歌量化白皮书中定义,分为PTQ和QAT两种,而PTQ又包括两种。 3种量化方式:QAT, PTQ Dynamic, PTQ Static。 1) 量化感知训练 (Quant Aware Training, QA 阅读全文
posted @ 2024-07-25 22:08 海_纳百川 阅读(2736) 评论(0) 推荐(1)
摘要: 在 IEEE 754 标准中,浮点数表示的指数的底(基数)是 2。这意味着浮点数表示遵循二进制科学记数法,即数值表示为尾数(Significand 或 Mantissa)乘以 2 的指数次方。 浮点数表示 浮点数的表示形式通常为: 其中: sign:符号位,0 表示正数,1 表示负数。 fracti 阅读全文
posted @ 2024-07-24 17:15 海_纳百川 阅读(451) 评论(0) 推荐(0)
摘要: 一般使用方式我们会在uvicorn.run(app, host="0.0.0.0", port=port, workers=4),指定worker=4,即表示使用4个并发线程,接口中的方法要使用异步编程 在这个时候要记住,前端调用接口时,如果报错object dict cannot be used 阅读全文
posted @ 2024-07-24 15:20 海_纳百川 阅读(596) 评论(0) 推荐(0)
摘要: 报错解释:这个错误通常出现在使用Python的异步编程模型时,尝试在一个不支持异步的对象上使用await关键字。在Python中,await关键字只能在异步函数中使用,而异步函数通常定义在async def语句中。错误 "object dict cannot be used in await exp 阅读全文
posted @ 2024-07-24 15:14 海_纳百川 阅读(1167) 评论(0) 推荐(0)
摘要: int8 量化是一种用于减少模型大小和计算复杂度的方法,特别是在深度学习模型中。它通过将浮点数(通常是 fp32)转换为 8 位整数 (int8),从而减少内存使用和提高计算效率。这在嵌入式设备和移动设备上特别有用。下面是 int8 量化的基本原理及其涉及的过程。 1. 为什么需要量化? 减少模型大 阅读全文
posted @ 2024-07-22 14:20 海_纳百川 阅读(925) 评论(0) 推荐(0)
摘要: 阅读全文
posted @ 2024-07-22 09:24 海_纳百川 阅读(21) 评论(0) 推荐(0)
摘要: 前言 postman用于测试http协议接口,无论是开发, 还是测试人员, 都有必要学习使用postman来测试接口, 用起来非常方便。 环境安装 postman 可以直接在chrome 上安装插件,当然大部分的同学是没法连接到谷歌商店的,我们可以在电脑本地安装postman 客户端工具。 Post 阅读全文
posted @ 2024-07-18 10:42 海_纳百川 阅读(106) 评论(0) 推荐(0)
摘要: 问:我的main分支的b文件夹只想放b分支的b文件夹里的文件,并且希望b分支更改后我这边也自动更新,请问怎么是实现 你希望 main 分支中的 b 文件夹自动保持与 b 分支中的 b 文件夹同步。可以使用子模块(submodule)来实现这种效果。这种方法允许你在一个仓库中包含另一个仓库,并且当子模 阅读全文
posted @ 2024-07-17 14:30 海_纳百川 阅读(95) 评论(0) 推荐(0)
摘要: 在PyCharm中,如果你没有找到“Checkout with...”选项,可以使用以下方法从另一个分支提取特定文件夹或文件: 方法1:使用“Git”工具窗口 切换到 main 分支 点击右下角的分支名称,选择 main 分支并切换。 获取最新的更改 在菜单中,选择 VCS > Update Pro 阅读全文
posted @ 2024-07-17 14:10 海_纳百川 阅读(77) 评论(0) 推荐(0)
上一页 1 ··· 12 13 14 15 16 17 18 19 20 ··· 91 下一页
本站总访问量