2025年10月5日
摘要: AI 原生应用把“数据—模型—业务”三条链路深度耦合,泄露与越权从“点状事件”转为“链路型、低信号、渐进式”攻击:提示词注入→RAG 越权→输出处理不当→多轮诱导→审计缺口串联放大。OWASP LLM Top 10(2025)将 Prompt Injection、Insecure Output Handling、Training Data Poisoning 等列为优先风险,对应控制必须前移到交互链路与输出处理层。总体方案:采用 “流式网关(LLM 前置)+ 逐 Token 并行检测 + 策略化处置 + 全生命周期审计” 的中枢架构,将输入、生成、输出、检索与会话记忆纳入闭环,并与 DLP / CASB / 数据分级分类联动。 * 合规锚点:与 NIST AI RMF(Generative AI Profile, NIST AI 600-1) 的治理—测量—管理动作、EU AI Act(2025 起分期生效) 的透明度与高风险义务、以及 中国《人工智能生成合成内容标识办法》(2025-09-01 施行) 对齐,形成技术—流程—证据三位一体。 阅读全文
posted @ 2025-10-05 12:45 呼啦哗啦圈 阅读(30) 评论(0) 推荐(0)