传统嵌入式 vs AI嵌入式：是替代还是叠加？从设备任务看技术分工

一台工业设备上，电机控制环每 1 毫秒执行一次，摄像头推理每 100 毫秒执行一次。两个任务的节拍不同，失败代价也不同。把它们放进同一套调度逻辑，问题往往出在时序，模型精度反而排在后头。

讨论传统嵌入式系统与 AI嵌入式的分工，落到设备任务上会清楚很多。系统层面，AI 更像加在原有嵌入式之上的一层；任务层面，只有一部分判断逻辑被模型替换。 下面从任务分类、硬件架构和工程约束三个方面拆开看。

一、先看结论：系统层是叠加，任务层才有替换

传统嵌入式开发围绕设备稳定运行展开。外设驱动、时钟与中断、RTOS 任务调度、通信协议、故障恢复，都是日常工作。交付物是固件和系统镜像，评价标准是时序确定、长期稳定、功耗可控。

AI嵌入式开发在同一套系统里增加端侧推理。模型在服务器上训练，经过转换、量化、算子适配，部署到 MCU、SoC 或带 NPU 的边缘设备上运行。设备自己完成判断，不依赖云端返回结果。

嵌入式AI、端侧AI、TinyML 常被混用，本文用 AI嵌入式 指在设备上完成推理的开发工作。

两层之间是依赖关系。推理层要拿传感器数据，要用内存和总线，要和实时任务共享 CPU 时间。没有底层驱动与时序管理，模型跑不起来；底层能力不足，设备也难以处理规则描述不清的判断。

替换发生在哪里？过去靠固定阈值、特征工程和 if-else 完成的分类、检测、异常判断，现在可以由轻量模型承担。设备启动、外设驱动、通信链路、异常恢复这些任务没有变。

所以，问会不会替代，要先限定任务范围。整机系统是叠加，局部判断是替换。

二、设备任务可以拆成三层

把设备任务按职责拆开，比按技术名词对比更容易落地。

• 实时控制层：电机、电源、阀门、执行器。周期常在微秒到毫秒级，由 MCU、RTOS 或裸机承担，确定性优先。
• 感知与推理层：图像、声音、振动、温度、电流。周期从毫秒到百毫秒，硬件可以是 MCU、DSP、NPU 或 GPU，精度与延迟要一起权衡。
• 连接与管理层：CAN、Modbus、MQTT、OTA、日志、云端协同。事件驱动为主，强调可靠、安全和可维护。

三层可以在同一颗芯片上，也可以分散到多颗芯片。任务归属取决于时序、算力、功耗和失败代价，和是否用了 AI 没有直接关系。

三、哪些任务留在控制层，哪些交给推理层

这张表可以直接用于项目讨论。先标出每个任务的截止时间、最坏执行时间和失败后果，再看模型推理能不能稳定落在预算内。

电机控制是典型例子。电流环、速度环要求固定周期和可预测延迟，模型不适合直接进入环路。AI 可以做参数辨识、振动异常预警、负载预测，把结果交给控制层参考。

视觉检测的任务不同。缺陷类型多、规则难写，在合适硬件上可以做到几十毫秒级推理，适合放在推理层。推理层输出的是概率，控制层要做阈值、置信度和回退处理。

语音唤醒、振动异常检测、传感器融合也属于这一类。它们有数据、有标注条件、允许一定误判，模型更容易覆盖变化。

通信、设备管理、显示驱动仍以传统嵌入式为主。它们对确定性和可靠性的要求高，AI 的增量有限。

四、四种架构，对应不同的任务组合

单 MCU 加轻量模型。 适合关键词唤醒、简单振动识别、低分辨率传感器分类。模型参数量小，片上内存从几百 KB 到几 MB，通常不跑完整操作系统。优点是成本低、功耗低，限制是模型容量和算子支持有限。

MCU 加 NPU 的异构方案。 截至 2026 年 11 月，ST 官网资料显示，STM32N6 使用 800MHz 的 Cortex-M55 加 1GHz 的 Neural-ART NPU。NPU 算力 600 GOPS，片上 4.2MB RAM，面向视觉和音频推理。

同期 NXP 官网资料显示，MCX N94 使用双 Cortex-M33 加 eIQ Neutron NPU。NPU 算力 4.8 GOPs，同时保留电机控制外设。

这类方案把控制与推理放在一颗芯片里，减少板级通信，适合空间和功耗受限的设备。代价是内存、散热和工具链适配要一起算。

MCU 加 MPU 或 SoC 的双芯片方案。 MCU 管实时控制和执行器，MPU 或 SoC 跑 Linux、摄像头和多模型推理。智能座舱、机器人、带屏设备常用这种组合。优点是任务隔离清楚，代价是芯片间通信、启动时序和成本。

端云协同。 设备做实时推理，云端做模型训练、版本管理和跨设备分析。模型更新频繁、数据量大的场景适合这种分工。网络不稳定或隐私要求高时，端侧要保留可独立运行的降级策略。

四种架构没有固定优劣，任务组合决定选择。

五、决定是否上 AI，先过五道约束

1. 规则能不能写清。 能用明确阈值和状态机覆盖的场景，传统方案成本更低，也更容易验证。
2. 数据够不够。 模型需要代表性的训练集和验证集。没有数据，先做采集和标注。
3. 算力、内存、功耗是否够。 NPU 算力只是上限，内存带宽、模型常驻和散热决定实际延迟。
4. 实时性是否稳定。 推理耗时会随模型、输入尺寸和内存访问变化。硬实时任务要独立调度，留出最坏情况预算。
5. 失败代价能否接受。 医疗、工业安全、汽车场景要有置信度阈值、回退逻辑和人工确认。

五道约束里，任何一道过不了，端侧推理就不合适。可以把模型放在云端，或者继续用规则算法。把模型放进设备只是一种手段，稳定完成设备任务才是判断标准。

六、四个常见误区

误区一，AI嵌入式会取代传统嵌入式岗位。 整体取代缺乏依据。岗位任务在变，驱动、时序、通信、调试仍然是日常工作。

误区二，会调用云端大模型接口就算 AI嵌入式。 模型在设备上运行，才属于端侧推理。调用接口更多是应用集成。

误区三，模型精度高就能上线。 内存、延迟、功耗、算子支持、数据漂移都会影响上线效果。实验室精度和设备现场表现是两件事。

误区四，所有任务都该上 AI。 硬实时控制、安全联锁、简单阈值判断，规则方案更合适。AI 应该放在规则难以覆盖的判断环节。

七、工程师要补的能力，顺序不能反

设备任务的分工，决定了能力结构。底层能力仍然是基础。

• 底层：C/C++、数据结构、计算机体系结构、MCU 外设、RTOS、Linux、调试工具。
• 部署：模型转换、量化、算子支持、NPU SDK、内存布局、性能分析。
• 系统：任务划分、实时调度、功耗预算、异常回退、版本管理。
• 算法：机器学习基础、数据标注、训练与评估。是否深入，取决于岗位方向。

学习顺序反过来，容易卡在环境搭建和硬件调试。先让设备稳定跑起来，再让模型在设备上稳定跑起来。

八、常见问题

1. 没有 NPU 的旧设备还能做 AI嵌入式吗

可以，但模型要更小。Cortex-M 系列可以用轻量推理运行时，在几百 KB 内存里跑关键词识别、简单分类等任务。复杂视觉模型通常需要 NPU、DSP 或更高算力的 SoC。先看模型大小和延迟预算，再决定是否升级硬件。

2. AI嵌入式一定要自己训练模型吗

不一定。很多岗位做模型选型、转换、量化、部署和性能调优，训练由算法团队完成。也有岗位要求参与数据构建和训练。看招聘描述里的职责比例。

回到设备任务，传统嵌入式与 AI嵌入式的关系可以这样记：控制层保稳定，推理层做判断，连接层保交付。 先看任务，再看芯片；先算时序和内存，再谈模型精度。这样选型，替换和叠加就不会混为一谈。

东方瑞通 · 嵌入式技术科普