摘要: 演示视频 https://www.bilibili.com/video/BV1zQFsz9Eq6/ 一、基础环境配置 硬件/软件 规格/版本 CPU i7-13700KF GPU RTX 4090 推理框架 TensorRT 8.6 优化工具 TensorRTx 模型规格 YOLOv8n (FP16 阅读全文
posted @ 2026-02-08 01:30 逸俊晨晖 阅读(39) 评论(0) 推荐(0)
摘要: 一、部署环境 TensorRT 8.6 CUDA 11.7 TensorRTx 二、TensorRTx 核心优势 针对自定义网络做了比原生 TensorRT 更深度的优化。 在 NVIDIA 4090 上,YOLOv5s 的 TensorRTx 推理速度比原生 TensorRT 快 15-25%,F 阅读全文
posted @ 2026-02-08 01:07 逸俊晨晖 阅读(28) 评论(0) 推荐(0)
摘要: 一、NVIDIA 显卡编码并发限制解除 执行以下命令即可解除NVIDIA显卡的编码并发限制: # 克隆补丁仓库 git clone https://github.com/keylase/nvidia-patch.git # 进入补丁目录 cd nvidia-patch # 执行补丁脚本(需要管理员权 阅读全文
posted @ 2026-02-08 00:54 逸俊晨晖 阅读(20) 评论(0) 推荐(0)
摘要: 演示视频 https://www.bilibili.com/video/BV1rGidBEE8Q/ 一、测试环境 设备/组件 型号/规格 备注 服务器 S800K2 - 算力卡 Atlas 300I Duo 内置2个310P3核心,测试仅使用1个310P3 检测模型 YOLOv8n 基于COCO80 阅读全文
posted @ 2026-01-08 23:58 逸俊晨晖 阅读(197) 评论(0) 推荐(0)
摘要: 基础配置 服务器型号:S800K2 算力卡型号:Atlas 300I Duo 测试规格:单310P3核心(Atlas 300I Duo 内置双310P3,为对比统一单卡测试) 一、编解码性能测试 测试条件 输入源:实时流 1080P@30fps H.264 处理流程:解码 → 编码(解码后数据直接用 阅读全文
posted @ 2026-01-08 23:32 逸俊晨晖 阅读(134) 评论(0) 推荐(0)
摘要: 一、背景与优化思路 在使用昇腾算力卡视频目标检测推理场景中,常规画框流程需将算力卡上的图像数据往返传输至CPU,占用大量PCIe带宽和CPU资源。针对昇腾算力卡,可通过AICPU自定义算子直接在算力卡上完成画框,避免数据往返传输,核心思路是将OpenCV画框API集成到AICPU算子中。 二、参考文 阅读全文
posted @ 2026-01-08 22:58 逸俊晨晖 阅读(54) 评论(0) 推荐(0)
摘要: 一、基础操作与权限配置 命令 作用 重要说明 sudo usermod -aG HwHiAiUser $USER 将当前用户加入昇腾用户组 解决非sudo下无法执行npu-smi info的问题,执行后必须重启终端/服务器生效 无sudo vs 有sudo 命令执行差异 加sudo和不加sudo时, 阅读全文
posted @ 2026-01-08 22:51 逸俊晨晖 阅读(91) 评论(0) 推荐(0)
摘要: 演示效果 https://www.bilibili.com/video/BV1Z646zhEBP 一、环境信息 类别 具体配置 板卡 DshanPI-A1 主控芯片 RK3576 操作系统 Armbian 桌面系统 GNOME 窗口系统 Wayland GPU 驱动 Panfrost 二、实现原理 阅读全文
posted @ 2025-10-16 00:24 逸俊晨晖 阅读(140) 评论(0) 推荐(0)
摘要: 演示视频 https://www.bilibili.com/video/BV1m34VziE2s 一、实验环境 类别 具体配置 板卡 DshanPI-A1 主控芯片 RK3576 操作系统 Armbian 桌面系统 GNOME 窗口系统 Wayland GPU 驱动 Panfrost 核心硬件加速单 阅读全文
posted @ 2025-10-13 00:16 逸俊晨晖 阅读(507) 评论(0) 推荐(0)
摘要: 背景与问题 使用设备:DshanPI-A1,搭载 Armbian 系统,窗口系统为 Wayland,GPU 采用开源驱动。 初始尝试:使用 NoMachine 实现远程桌面,但存在两个问题: 默认创建虚拟桌面,而非物理桌面; 对 Wayland 支持不佳,会以兼容模式开启 X11 桌面,导致 Ope 阅读全文
posted @ 2025-10-12 02:04 逸俊晨晖 阅读(259) 评论(0) 推荐(0)