AIBOX PRO 上手体验:把 RK3588 + 大算力 NPU 塞进一台边缘小主机
边缘 AI 落地这几年,我越来越觉得“能跑大模型”和“敢往现场 deploy”之间,隔的不是算法,而是一台靠谱的小主机。
最近拿到一份 AIBOX PRO 的规格书,看得我有点上头。它把 RK3588/ RK3576 主控和 RK1828/后摩 LQ50 这样的大算力副模组做成分体式异构设计,相当于在边缘端搭了一台“CPU 负责调度、NPU 负责推理”的小型工作站。今天把亮点拆开聊聊,顺便给正在选边缘算力平台的朋友做个参考。
一、为什么要做“主副异构”?
传统方案是一颗 SoC 扛所有:视频解码、业务逻辑、AI 推理全挤在一个芯片里。模型小还凑合,一旦上到 7B、30B 级别,DRAM 带宽和算力立马吃紧。
AIBOX PRO 的做法是主模组(RK3588/RK3576)负责任务调度、数据预处理、8K 编解码;副模组通过 PCIe 高速互联,专门负责 AI 推理。两套系统各司其职,模型并行和多任务协同都更自然。对于机器人导航、多模态感知这种既要低延迟又要大运算量的场景,这种架构确实比单芯片方案更稳。
二、三种典型算力组合
| 主控 | 副模组 | 算力 | 可运行模型规模 |
|---|---|---|---|
| RK3588 | RK1828 ×1 | 6 + 20 TOPS (INT8) | 7B 以内 |
| RK3588 | RK1828 ×2 | 6 + 40 TOPS (INT8) | 7B 级别 |
| RK3588 | 后摩 LQ50 | 6 + 160 TOPS (INT8) | 35B 以内 |
最让我惊讶的是 LQ50 这个选项。48GB LPDDR5 的存算一体设计,直接把 DRAM 带宽拉满,对大模型首 token 延迟和持续 TPS 都有肉眼可见的提升。以前这种规格的推理卡多在 x86 工控机里才能见到,现在塞进一台 160×111×61 mm 的小主机,功耗典型值还能压在 10W 左右,挺香的。
三、接口和扩展:工业场景友好

AIBOX PRO 不是那种“性能参数漂亮、接口一塌糊涂”的玩具。它的接口排布明显是照着工业现场去的:
- 2× 千兆网口(RJ45)
- 2× USB3.0 + 1× USB2.0 OTG + 1× Debug Type-C
- 1× HDMI2.1(4K@60Hz)
- 1× RS485 + 1× CAN-FD + 2× 光耦隔离 DI/DO
- M.2 M-KEY、M.2 E-KEY、Mini PCIe、TF Card、SIM Card 位
尤其是凤凰端子座,直接把 RS485/CAN-FD/DI/DO 集中在一起,接传感器、接电机、接 PLC 都方便。下面这张图把前后接口标得很清楚:

四、视频处理能力是加分项
RK3588 本身支持 8K@60fps 解码、8K@30fps 编码,RK3576 也能做到 8K@30fps 解码、4K@60fps 编码。多路 4K 视频流并行处理 + AI 分析,对智能安防、智慧交通这类“摄像头多、算力要求高”的场景很对味。主控先解码、缩放、裁剪,再把关键帧喂给副模组做推理,整条流水线基本不浪费带宽。
五、散热和可靠性
全铝合金外壳 + 内置风扇,工作温度 -20℃ ~ 60℃,支持 7×24 小时运行。边缘设备最怕的不是峰值算力不够,而是高温降频、灰尘堆积、接口松动。AIBOX PRO 的工业级外壳和宽电压 9V~36V 输入,至少说明它是按现场部署思路去设计的,而不是放在实验室里跑 demo。
写在最后

如果你正在找一台能跑 7B 甚至 35B 大模型的边缘主机,同时又要兼顾工业接口和低功耗,AIBOX PRO 值得放到候选清单里。它不是最强的算力怪兽,但它把“异构算力 + 工业接口 + 边缘部署”三件事整合得比较均衡。
下一步我打算把它接上摄像头和 CAN 总线,跑一跑多模态感知 demo,到时候再写篇实测。
本文基于产品规格书整理,规格如有更新请以官方发布为准。
浙公网安备 33010602011771号