默安科技推出全场景大模型安全防护方案

转载学习：默安科技推出全场景大模型安全防护方案 构筑AI时代安全防线

默安科技针对大模型在AI时代面临的多场景安全挑战，推出了全生命周期防护方案，分为自建与公网托管两大场景。

自建大模型安全风险及防护

风险：

1. 运行环境漏洞：如GPU漏洞CVE-2023-4969可导致敏感数据泄露。
2. 生态组件漏洞：开源工具Ollama（CVE-2024-37032）、Langchain（CVE-2023-34541）等存在远程代码执行风险。
3. 供应链投毒：Hugging Face平台恶意模型执行后门，第三方数据集易遭Split-view/Front-running投毒攻击。
4. 提示注入攻击：XSS漏洞、恶意指令植入导致数据泄露或命令执行。
5. 内容合规问题：输出内容可能违背社会主义核心价值观。
6. AI Agents风险：未过滤恶意代码引发执行链攻击。

防护方案：

• 环境防护：火线云XDR保障主机/容器安全，幻阵系统部署AI沙箱诱捕攻击者。
• 组件检查：巡哨系统监控20+主流大模型工具漏洞。
• 输入输出过滤：内容过滤平台检测合规与恶意代码（准确率>98%）。

• 数据投毒防范：训练数据集与知识库扫描工具清除恶意内容。
• 场景评估服务：专家服务覆盖Agents执行链、供应链等全链路风险。

公网托管大模型安全风险及防护

风险：

1. 服务入侵：云服务配置错误（如AWS SageMaker笔记本书暴露）、密钥泄露导致模型被滥用。
2. 数据泄露：云存储错误配置（如Microsoft 38TB数据泄露事件）致训练数据外泄。

防护方案：

• 配置检查：宵明平台AI-SPM检测10+类云服务暴露风险。
• 数据安全：扫描云存储中的恶意/不合规数据。
• 密钥保护：监测7种公有云大模型密钥泄露。

整体防护框架

覆盖运行环境、生态组件、输入输出、数据检查、云安全五大模块，结合专家评估服务，实现从基础设施到应用层的纵深防御。

案例：某能源企业通过默安方案完成训练数据筛查与交互过滤，提升大模型安全性。