2025年8月9日
香橙派RK3588部署千问大模型Qwen2-VL-2B推理视频
摘要： 演示视频 https://www.bilibili.com/video/BV1GfttzREYf 一、场景假设 视频输入为一条网络流，利用大模型对视频中的图像帧进行推理。由于大模型推理耗时长，无法对每帧都进行推理，因此采用跳帧推理的方式：当推理完一帧后，期间会跳过若干帧，然后立即推理最新的一帧。 二 阅读全文
posted @ 2025-08-09 19:56 逸俊晨晖 阅读(232) 评论(1) 推荐(0)
香橙派 RK3588 部署千问大模型 Qwen2-VL-2B 多轮交互式对话
摘要： 演示视频 https://www.bilibili.com/video/BV1VitbzbESb 一、前期准备：检查 NPU 内核版本 版本要求：需保证 NPU 内核为 v0.9.8 版本 查询与更新方法：参考链接 https://www.cnblogs.com/yijunchenhui/p/190 阅读全文
posted @ 2025-08-09 17:01 逸俊晨晖 阅读(390) 评论(1) 推荐(0)