华为AI智能体安全

参考：https://mp.weixin.qq.com/s/vZEYRTOvau-IFwOW_eNm_A

随着 AI 在未来的智能社会中扮演着越来越重要的角色，AI 系统需要处理更丰富更全面的个人信息，一旦 AI 系统被攻破，大量用户敏感数据可能会被窃取和滥用，此外，AI 大模型本身也可能成为攻击目标，比如攻击者可以通过设计出特殊的提示词进行越权访问，获得其本来无权访问的用 户隐私数据，或引导智能体执行一些不该执行的动作。

生成式 AI 系统的可信安全体系需要从芯片、硬件、操作系统、大模型、智能体等多个维度全 新设计。

以华为 AI 终端为例，通过深度整合软件、硬件、芯片与云端各层防护机制，形成立体、动态、 自适应的“软硬芯云一体化安全架构”，确保数据、应用和用户交互的安全无虞。

智能感知与动态防护的软件安全

1. 集成自我学习与适应能力的 AI 安全引擎，实时监控系统行为，识别异常活动，有效抵御病毒、木马和 0 Day 攻击。
2. 采用微服务架构，实现服务间最小权限原则和隔离，降 低单一服务受损对整体系统的影响。
3. 内置的隐私保护机制，将确保用户数据在处理、存储和传输过程中的加密与匿名化，保护个人隐私。

内置安全与可信执行环境的硬件安全

通过集成安全芯片(如 TPM、 SE 等)实现硬件级的密钥管理、身份验证和数据加密，为系统提供 不可篡改的信任根。

此外，基于可信执行环境(Trusted Execution Environments, TEEs)为敏感操作提供独立的执行空间，同时实现基于密码学的机密计算，保证了数据和计算过程的保密性、可靠性、不可 篡改性。

定制化安全指令与硬件加速的芯片级安全

在芯片设计阶段融入安全理念，开发定制化的安全指令集，以硬件加速的方式执行加密运算和安全协议，确保从底层硬件到上层应用的全程安全。

策略统一和风险共享的端云安全协同

安全云作为软硬芯云架构的中枢， 承担着安全策略的集中管理和跨设备协同防御的任务。鸿蒙能够实时接收最新的安全补丁和威胁情报，实现安全策略的统一部署、更新与威胁预警，并协调不同设备间的防御行动，形成强大的协同安全效应。